网易首页 > 网易号 > 正文 申请入驻

我在本地搭了一套AI编程助手:Gemma 4+Open WebUI+OpenHands

0
分享至

过去很长一段时间,我把本地模型当成另一个聊天窗口在用——粘贴错误,复制答案,回到编辑器,运行测试,再复制下一个错误,循环往复。

这样能用,但浪费了很多可能性。


Gemma 4吸引我的地方,不只是它是带多模态能力的开源模型家族,有针对不同硬件配置的变体。更在于它让我重新思考一种 setup:模型不再孤立地待在浏览器标签页里,而是嵌入本地开发工作流。

这次实验的目标很简单:我想要一个完全本地运行的开发助手,能跟我一起推理,能理解视觉和文本上下文,能读取项目文件,并且在合适的时候直接操作代码仓库——不用把整个代码库发给外部服务。

为此,我搭了一套组件互相配合的栈。

核心思路是:Gemma 4 的真正价值,在于它从"盒子里的模型"变成本地开发架构的一部分。

这套栈做了职责分离。Ollama 跑在宿主机上,因为在 macOS Apple Silicon 上,这是利用本地运行时的实际路径。界面层跑在 Docker 里。Open WebUI 是我思考、对比、检查视觉上下文、生成辅助图片的地方。OpenHands 是我从对话转向行动的地方。

这种分离改变了体验。

Google 把 Gemma 4 定位为面向不同硬件和使用场景的开源模型家族。这对本地开发很重要,因为不是所有任务都需要同一个模型。

在我的工作流里,有四项能力特别关键。

第一,模型尺寸变成路由决策。有时我只想快速确认一个函数,有时想要对跨模块改动做深度 review。这是不同的任务。

第二,更长的上下文改变了模型处理代码的方式。一个有用的编程助手需要理解代码规范、邻近文件、之前的决策和测试结构。

第三,agent 需要的不仅是好的文本生成。编程 agent 必须持有指令、使用工具、读取结果、自我修正。模型重要,周围的架构同样重要。

第四,多模态改变了软件任务的描述方式。有时上下文不在 .py 或 .ts 文件里,而是一张 UI 崩了的截图、一张架构图、一个线框、生成的素材、一张图表,或者错误截图。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
果不其然,特朗普访华又生变数?中方提的要求,美方竟然一口回绝

果不其然,特朗普访华又生变数?中方提的要求,美方竟然一口回绝

冷眼看尽世间繁华
2026-05-09 14:00:15
中国球迷险无法看国足踢世界杯!央视极限压价:2亿买两届转播权

中国球迷险无法看国足踢世界杯!央视极限压价:2亿买两届转播权

念洲
2026-05-07 16:31:49
上海28岁天才股神直言:如果接下来迎来牛市,建议死啃2560战法!

上海28岁天才股神直言:如果接下来迎来牛市,建议死啃2560战法!

股经纵横谈
2026-04-29 15:00:25
貔貅认主不看财富,这四个生肖千万别碰,戴了反而会破财

貔貅认主不看财富,这四个生肖千万别碰,戴了反而会破财

纸鸢奇谭
2026-04-13 16:06:54
伊朗和俄罗斯,都对中国产生了严重的战略误判!

伊朗和俄罗斯,都对中国产生了严重的战略误判!

谈芯说科技
2026-05-08 19:28:15
吴宜泽为报恩推掉了西安上百万的剪彩合同

吴宜泽为报恩推掉了西安上百万的剪彩合同

叶老四
2026-05-09 07:28:44
50岁前如果没得过这5种病,以后基本不会患癌?真的假的?

50岁前如果没得过这5种病,以后基本不会患癌?真的假的?

健身狂人
2026-05-09 11:29:59
肺癌多是“拖”出来的,5种表现是求救信号,确诊更不能不当回事

肺癌多是“拖”出来的,5种表现是求救信号,确诊更不能不当回事

芹姐说生活
2026-05-09 13:51:09
美股三大指数集体收涨,道指收涨0.02%,纳指涨1.71%,标普500涨0.84%

美股三大指数集体收涨,道指收涨0.02%,纳指涨1.71%,标普500涨0.84%

每日经济新闻
2026-05-09 06:13:04
CPO/光模块:龙头十五强,谁还在低位?

CPO/光模块:龙头十五强,谁还在低位?

普陀动物世界
2026-05-08 09:15:08
广汽埃安否认被约谈及被立案调查

广汽埃安否认被约谈及被立案调查

界面新闻
2026-05-09 12:56:18
一屋子专业演员,愣是演不过一个跨界戏子,这片子烂不是没理由的

一屋子专业演员,愣是演不过一个跨界戏子,这片子烂不是没理由的

科学发掘
2026-05-07 14:14:44
26岁女学霸实名举报长江学者六年操控,顶尖高校至今沉默

26岁女学霸实名举报长江学者六年操控,顶尖高校至今沉默

原谅你
2026-05-07 18:08:08
取代徐昕?广东队有望抢下2米15国手中锋,这可是杜锋的争冠王牌

取代徐昕?广东队有望抢下2米15国手中锋,这可是杜锋的争冠王牌

绯雨儿
2026-05-09 12:45:19
西方集体保持缄默,德媒罕见坦言:中国正复刻美国,悄然主导世界

西方集体保持缄默,德媒罕见坦言:中国正复刻美国,悄然主导世界

琴音缭绕回
2026-05-08 10:03:00
傅崐萁爆7800亿军购是韩卢郑黄4人共识!陈挥文:10个政客9个骗

傅崐萁爆7800亿军购是韩卢郑黄4人共识!陈挥文:10个政客9个骗

音乐时光的娱乐
2026-05-09 11:20:17
随着马刺7分险胜,尼克斯夺赛点,NBA季后赛最新排名出炉!

随着马刺7分险胜,尼克斯夺赛点,NBA季后赛最新排名出炉!

薇说体育
2026-05-09 13:50:10
武夷山200斤豹子偷袭野猪窝,被归来的400斤公猪追着咬断半截尾巴

武夷山200斤豹子偷袭野猪窝,被归来的400斤公猪追着咬断半截尾巴

深析古今
2026-05-09 00:43:07
记者:绿军总裁将评估市场,考虑通过交易布朗提升球队实力

记者:绿军总裁将评估市场,考虑通过交易布朗提升球队实力

懂球帝
2026-05-09 08:16:59
韩国千面影帝李秉宪:演技有多顶,人品就有多渣

韩国千面影帝李秉宪:演技有多顶,人品就有多渣

上官晚安
2026-05-05 17:03:06
2026-05-09 15:08:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
2383文章数 33关注度
往期回顾 全部

科技要闻

美国政府强力下场 苹果英特尔达成代工协议

头条要闻

恒大原总裁夏海钧豪宅被拍卖 年薪2亿被誉"打工皇帝"

头条要闻

恒大原总裁夏海钧豪宅被拍卖 年薪2亿被誉"打工皇帝"

体育要闻

成立128年后,这支升班马首夺顶级联赛冠军

娱乐要闻

50岁赵薇脸颊凹陷沧桑得认不出!

财经要闻

Meta疯狂拥抱人工智能:员工苦不堪言

汽车要闻

轴距加长/智驾拉满 阿维塔07L定位大五座SUV

态度原创

旅游
房产
本地
公开课
军事航空

旅游要闻

5月15日至10月15日,东、西佘山园延长开放时间→

房产要闻

豪掷6.8亿拿地!何猷君大手笔投资三亚!

本地新闻

用苏绣的方式,打开江西婺源

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美伊突然再次交火 伊朗外长:战争准备程度是1000%

无障碍浏览 进入关怀版