网易首页 > 网易号 > 正文 申请入驻

本地跑Claude Code:Docker Model Runner配置实战

0
分享至

  Claude Code在开发场景里的表现确实出色,但token消耗是个实打实的问题——项目越复杂,账单涨得越快。更头疼的是,有些代码涉及私有业务逻辑,或者你正在飞机上没网,这时候云端模型就帮不上忙了。

  Docker Model Runner的价值就在这儿:把大模型搬到本地机器上跑,再花几分钟配置,就能让Claude Code调用这些本地模型而非Anthropic的云端服务。本文完整记录这套流程的实操步骤。

  

  开始前先完成环境准备。Docker Desktop用户进入Settings > AI,启用Model Runner的TCP访问;偏好命令行的直接执行docker desktop enable model-runner --tcp 12434。这一步开启本地API的12434端口监听。

  选模型是第一步。DockerHub AI目录里可选的LLM很多,作者选用的是ai/phi4:14B-Q4_K_M——14B参数量,Q4量化,平衡了能力和本地硬件负担。选模型时注意挑代码能力强的,pull命令执行后等待下载完成,耗时取决于模型体积。

  验证环境是否正常。用docker model statusdocker model ls查看状态和已下载模型,类似操作Docker镜像的体验。正式接入Claude Code前,建议先用curl测试API是否响应:

  curl http://localhost:12434/v1/messages -H "Content-Type: application/json" -d '{"model": "ai/phi4:14B-Q4_K_M", "max_tokens": 100, "messages": [{"role": "user", "content": "Hello!"}]}'

  返回正常JSON即表示通路已建立。最后一步切换Claude Code的指向:设置ANTHROPIC_BASE_URL=http://localhost:12434环境变量,并用--model参数指定本地模型名称,例如claude --model ai/devstral-small-2。执行后Claude Code的所有请求都会发往本地端口,而非Anthropic服务器。

  这套方案的核心收益很明确:敏感代码不出本机、无网环境可用、长期高频使用省下token费用。代价是本地硬件要能扛住模型推理负载,以及需要自行评估本地模型的代码能力是否匹配项目需求。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
5月14日,人社部公布2026年养老金调整方案了吗?答案却很反常

5月14日,人社部公布2026年养老金调整方案了吗?答案却很反常

社保小达人
2026-05-14 11:17:52
让百姓在家门口能看好病(探访)

让百姓在家门口能看好病(探访)

金台资讯
2026-05-14 06:39:43
A股:大家系好安全带了,不出意外的话,A股或将再次重演黑色星期四?

A股:大家系好安全带了,不出意外的话,A股或将再次重演黑色星期四?

趋势清风侠
2026-05-14 12:37:47
钱再多有什么用?2个女儿惨死3个儿子反目,资产1250亿也无人送终

钱再多有什么用?2个女儿惨死3个儿子反目,资产1250亿也无人送终

北纬的咖啡豆
2026-04-08 17:09:30
11年前优衣库男女主现状曝光,他们还在一起生了两个孩子

11年前优衣库男女主现状曝光,他们还在一起生了两个孩子

半糖甜而不腻
2026-04-06 12:09:15
U17国足VS沙特:4231最强出击,万项领衔前场进攻,海归新星冲锋

U17国足VS沙特:4231最强出击,万项领衔前场进攻,海归新星冲锋

零度眼看球
2026-05-14 06:46:02
国乒2人离队!阵容大换血,孙颖莎最好闺蜜走了,王励勤动真格了

国乒2人离队!阵容大换血,孙颖莎最好闺蜜走了,王励勤动真格了

宝哥精彩赛事
2026-05-14 13:12:36
爆大冷!0-1!巴萨轰然倒下,输给保级队,12亿欧豪阵也没用

爆大冷!0-1!巴萨轰然倒下,输给保级队,12亿欧豪阵也没用

足球狗说
2026-05-14 05:23:40
彻底撕破脸?国际足联怒删中文,摊牌谈判筹码,40亿索赔倒计时

彻底撕破脸?国际足联怒删中文,摊牌谈判筹码,40亿索赔倒计时

晓徙娱乐
2026-05-14 11:00:32
国安俱乐部做出重要决定!直接拍板同意球迷这个要求,引发热议

国安俱乐部做出重要决定!直接拍板同意球迷这个要求,引发热议

张丽说足球
2026-05-14 14:09:53
2026年养老金有望调整!高于7200涨60元,低于3800涨160可行吗

2026年养老金有望调整!高于7200涨60元,低于3800涨160可行吗

補懂事的孩紙
2026-05-13 16:17:34
他是外交部原部长,1985年被邓小平怒批“胡说八道”,活到了98岁

他是外交部原部长,1985年被邓小平怒批“胡说八道”,活到了98岁

历史人文2
2026-05-09 22:00:03
韩国总统李在明会见何立峰

韩国总统李在明会见何立峰

每日经济新闻
2026-05-13 17:19:38
3-2!骑士击败活塞,赛后还有4个好消息,哈登首冠有希望

3-2!骑士击败活塞,赛后还有4个好消息,哈登首冠有希望

王楔晓
2026-05-14 13:22:07
16个非常烧脑的悖论,真的要疯了!

16个非常烧脑的悖论,真的要疯了!

宇宙时空
2026-05-12 22:30:07
领先15分惨遭逆转,加时输掉天王山!CC空砍39+7+9,已突破500分

领先15分惨遭逆转,加时输掉天王山!CC空砍39+7+9,已突破500分

无术不学
2026-05-14 11:59:17
民营:不能永远带着原罪的镣铐前行

民营:不能永远带着原罪的镣铐前行

生命可以承受之轻
2026-05-12 08:50:45
特朗普和二儿媳又同框了!经常陪他出席各种活动,总统笑的太开心

特朗普和二儿媳又同框了!经常陪他出席各种活动,总统笑的太开心

冷桂零落
2026-05-14 11:17:36
病人问“验血为何抽满管”,网友质疑血液被倒卖,评论区一片恐慌

病人问“验血为何抽满管”,网友质疑血液被倒卖,评论区一片恐慌

谭谈社会
2026-05-13 03:24:58
我只能跟着一起摇摆

我只能跟着一起摇摆

求实处
2026-05-13 18:39:39
2026-05-14 14:47:01
赛博兰博
赛博兰博
专注捣鼓AI效率工具,试图在这个时代留下数字分身的探索者。
2689文章数 32关注度
往期回顾 全部

科技要闻

马斯克说会谈很顺利 黄仁勋点赞 库克比耶

头条要闻

媒体:中美元首会晤 世界吃下一颗“定心丸”

头条要闻

媒体:中美元首会晤 世界吃下一颗“定心丸”

体育要闻

登海报!哈登30+8+6创多项纪录 第8次赢天王山

娱乐要闻

肖战提名金海燕奖,这一步走得太稳

财经要闻

习近平同美国总统特朗普会谈

汽车要闻

C级纯电轿跑 吉利银河"TT"申报图来了

态度原创

亲子
家居
艺术
本地
公开课

亲子要闻

爸爸在家给宝宝理发,套上袋子的瞬间,我差点问候他祖宗!

家居要闻

精神奢享 对话塔尖需求

艺术要闻

充满光感的花卉油画 | 亚历山大·沙巴德伊

本地新闻

用苏绣的方式,打开江西婺源

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版