我是一名创客,不是专业软件工程师。
我的背景来自开源硬件社区。2013年,我创办了RaspberryPi Village;2016年,我参与组建了OpenMake社区团队。OpenMake Team不是一家公司,而是一群喜欢开源、开放硬件,并且愿意在自己拥有的设备上运行自己构建的系统的人。
![]()
2026年2月3日,我提交了openmake_llm的第一次commit。
出发点很简单:我想要一个AI工作区,它可以跑在我已经拥有的硬件上,由我决定使用哪些模型,也由我来决定应用、数据和推理边界应该放在哪里。
我以AI辅助的“vibe coding”方式主导项目,专业开发者rocky负责支持开发和代码评审。
这种描述听起来像是AI把代码写完,产品就自动出现了。实际上几乎相反。
AI帮我们快速产出代码,也帮我们快速积累错误的假设。真正重要的工作是运行在真实硬件上,找到假设在哪里失败,然后删掉或重建那些不工作的部分。
现在的运行拓扑是:OpenMake和LiteLLM跑在一台Mac mini上,通过私有网络连接NVIDIA DGX Spark上的vLLM。
早期版本包含marketplace和canvas。它们被实现出来,可见,也能运行。
当重新审视产品方向时,我们得出结论:它们正在把我们拖离核心工作流。于是我们移除了它们。
这改变了项目的一个基本问题。
我们不再问“这个功能我们是不是已经做过了?”,而是问“它到底属于用户真正要完成的工作流吗?”
AI生成代码越快,删除那些本不该存在的代码就越重要。
项目最初围绕Ollama特定API发展,这在开始时有用,但不适合我们同时运行Mac mini和DGX Spark的系统。最终,我们转向了OpenAI兼容的接口路径。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.