辽宁
@化学心情下2：随着 AI 的普及，不少朋友或多或少都在自己的电脑上用起了各种 AI agent 来提高效率。不过市面上的 AI agent 几乎都是基于云端提供的模型能力，必须连接互联网才能使用大模型的推理能力。
如何用自己的电脑来运行大模型呢？动手能力不错的朋友或许习惯通过 Ollma 下载管理模型然后本地调用，但对一般使用者而言，有没有简单易懂的本地化模型部署方案呢？
Local Code 是一款适用于 Mac 平台的、本地优先的 AI Agent 工具，相比专业的模型部署工具 Ollma，Local Code 专注于为 Mac 设备提供最优解——应用一共就提供三种本地模型，初始化时会根据设备配置匹配最合适的本地模型，比如笔者的 M4 处理器的 Macbook Air 因为仅有 16GB 运存只能选择最低阶的 Qwen 3.8 27B，选好模型、下载好模型文件并完成设置后，就可以进入到 Local Code 的主界面了。
Local Code 在功能上和市面主流 AI Agent 工具并没什么太大的差距，你可以通过侧边栏中的项目文件夹来展开对话，对话支持添加图片、文档等附件，也可以使用语音方式交互；最左侧也可以对插件进行微调，比如在设置中可以选择使用设备端的模型还是云端模型，推理强度可以根据机器本身的性能调整，我这里因为性能较弱直接拉到低，至于思考预算同样也需要根据本地机器性能来选择。插件设置中还有是否启用一些权限或者功能的选项，说实话比起成熟的商业化 AI Agent 工具差距可能不是一点半点。
在侧边栏的芯片按钮中，你还可以对模型进行调整，比如是否预热、空闲多久后卸载模型、是否为 8bit S 模型使用 Apple Neural Engine 等。不清楚的话保持默认就可以。
实际模型吞吐效果方面，我这里因为设备配置一般所以体验差强人意，采用高思考模式一个简单的 GitHub 项目分析可能要接近 1 个小时，令牌生产速度几乎是个位数；简单文本总结任务中速度略快但令牌生产速度也只有几十，可见基于消费级硬件 NPU 能力跑大模型，其实完全无法达到现在商业云端模型的输出速度。
当然，如果你的 Mac 性能更高，甚至可以运行量化后的 DeepSeek 4.1 Flash 1017，那我的上述体验就不具备参考性了。
Local Code 给那些想要尝试本地运行大模型，但不清楚如何部署、下载等繁复流程的朋友一个更易上手的平台，不过对于低端的 Mac 而言，整体算力瓶颈导致的体验问题依然存在，配置一般的朋友建议尝鲜为主。
平台：macOS
关键词：本地模型、AI、代理
https://getlocalcode.app/
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
