网易首页 > 网易号 > 正文 申请入驻

为什么让大模型自己写shell命令,运维迟早要出事?

0
分享至

周三下午三点,一个运维工程师盯着屏幕上的AI演示:模型说"我来帮你重启PHP-FPM",然后自己编出了一条shell命令。命令看起来没问题,语法也对,但他不敢按回车。


这正是Escalane这个项目想解决的问题。作者在MLH Global Hack Week: Builders Week(2026年11月6日至12日)期间,花了一周时间和一种在"AI Ops"演示里反复出现的模式较劲:一个LLM大谈怎么修主机,然后凭空发明出那条能修好它的shell命令。

他的判断很直接:在运维场景里,所谓"工具"往往就是一个shell形状的接口。让模型自由调用工具,等于把三件本不该共用同一个大脑的事揉在了一起。

  • 判断——哪种修复类别才合适?
  • 授权——现在动这台主机安全吗?
  • 执行——确切的shell参数、锁、dry-run、验证

当模型自己撰写命令时,被提示注入的遥测数据就变成了一条远程代码执行路径。作者想要的是一个封闭的动作空间:选一个playbook id(或者升级处理),回答安全问题,然后由harness持有的目录模板从状态绑定的参数里填入shell参数——绝不来自模型的自由文本。

他做出来的东西叫Escalane,一个面向运维的、受目录约束的Decide+Act harness。模型只负责选择哪种修复方式合适,真正执行的只有harness。决策后端叫System One,它针对一份清洗过的状态数据回答类型化的问题:用哪个playbook、是否可以变更、影响范围有多大。它拿不到自由工具带。

整个循环只有四步:

  1. 摄取——只收症状,拒绝类似命令的字段
  2. 决策——System One返回类型化答案(选择/置信度/分数)
  3. 闸门——有序的安全检查,低置信度时失败关闭
  4. 目录执行——只用模板shell参数,或者升级、转人工

研究默认是dry-run,不动主机。写操作需要双重同意:CLI的--allow-writes和ALLOW_WRITE_OPERATIONS=true。失败关闭的--require-live会在你要求实时后端时拒绝悄悄回退到mock。

作者说,这一周最让他记住的一课是:harness比换模型更重要。换决策模型并不能修复不安全的shell参数撰写问题。语法正确不等于语义安全。

闸门A0到A3按顺序运行,每一个都能在任何东西执行前否决:

  • A0——选中的playbook在目录里吗?(成员资格)
  • A1——置信度够高吗?
  • A2——影响范围可以接受吗?
  • A3——拟合的逐标签精度够好吗?不够就转人工审核

A3是最严格的研究姿态。在一次使用System One d3:4b的实时Ollama运行中,它仍然要求人工介入,因为拟合的标签精度偏保守——尽管模型选中的是一个有效的目录playbook。

那次实时命令的输出被精简后是这样的:模型d3:4b,后端ollama,playbook为restart_php_fpm,置信度0.9878,影响分数0.9822,闸门决定是hitl,原因是label_precision,且仅dry-run。

读法就是:实时System One给出了答案,目录playbook被选中,仅dry-run,模型没有发明任何shell参数,A3把它转给了人工审核而不是直接执行。

作者也承认,这是一个研究用的harness,不是生产认证的修复器。保守的闸门会比那种"总是直接跑修复"的演示agent更频繁地要求人工介入。他在种子套件上对比过闸门姿态与无闸门/自由工具调用的基线,足以看出仅靠目录成员资格在注入形状的提示下并不够。完整指标留待后续论文。

至于技术栈,他没有硬凑MLH合作方:Python加uv做CLI和harness,httpx连本地决策后端,Ollama/LM Studio跑本地System One风格的决策模型,外加一个带种子运维目录和mock后端的自定义Decide→Gates→Act harness用于离线打通。

这一周真实遇到的麻烦包括模型拉取和DNS抖动,eGPU被聊天模型占着所以决策模型只能住在第二台机器上,以及"mock上CI全绿"这个陷阱——它教的是接线,不是决策质量。他说,claim fence和--require-live的存在,就是为了不再骗自己。

如果你也在和"带bash权限的LLM"较劲,他想知道你是怎么划这条信任边界的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

趣文说娱
2026-11-12 04:55:18
直播打赏的钱怎么分成,刷个3000块的嘉年华主播到底能拿多少?

直播打赏的钱怎么分成,刷个3000块的嘉年华主播到底能拿多少?

草莓解说体育
2026-11-18 02:13:15
在蒙古工作的华人感慨:不要听媒体吹牛,蒙古相当于我国二线城市

在蒙古工作的华人感慨:不要听媒体吹牛,蒙古相当于我国二线城市

铭记历史呀
2026-11-08 20:11:00
欧国联D组反转!挪威3-2绝杀出线,丹麦出局,葡萄牙3-2头名争冠

欧国联D组反转!挪威3-2绝杀出线,丹麦出局,葡萄牙3-2头名争冠

体育知多少
2026-11-18 06:07:27
现货黄金日内跌幅扩大至1%,报3809.5美元/盎司

现货黄金日内跌幅扩大至1%,报3809.5美元/盎司

每日经济新闻
2026-11-18 09:10:05
丈夫变心20年,妻子没提过一句离婚,孙子满月宴上,丈夫却崩溃了

丈夫变心20年,妻子没提过一句离婚,孙子满月宴上,丈夫却崩溃了

兰姐说故事
2025-04-30 20:00:14
打出高光一战后,湖人收到沃克・凯斯勒的伤情坏消息

打出高光一战后,湖人收到沃克・凯斯勒的伤情坏消息

夜白侃球
2026-11-17 15:46:08
刚刚,英伟达财报大超预期,股价狂飙5%,中际旭创暗盘又拉回来了

刚刚,英伟达财报大超预期,股价狂飙5%,中际旭创暗盘又拉回来了

金融界
2026-11-18 08:04:13
美媒表示:美国B-21完成首次投弹测试,排名世界第一,中国轰20却迟迟不亮相,难道中国存在技术瓶颈?

美媒表示:美国B-21完成首次投弹测试,排名世界第一,中国轰20却迟迟不亮相,难道中国存在技术瓶颈?

绝对军评
2026-11-17 09:39:02
俄罗斯定下更高目标:不仅要打垮乌克兰,还想解决欧洲这心腹大患

俄罗斯定下更高目标:不仅要打垮乌克兰,还想解决欧洲这心腹大患

经纬戎韬
2026-11-17 03:10:10
陕西老总3年赚42亿,女秘书换12个,知情人士吐露:吃人不吐骨头

陕西老总3年赚42亿,女秘书换12个,知情人士吐露:吃人不吐骨头

悬案解密档案
2025-05-19 14:44:14
韩国前女总统朴槿惠私生活有多乱,很多人不知道的10个冷知识

韩国前女总统朴槿惠私生活有多乱,很多人不知道的10个冷知识

疯狂的小历史
2026-11-17 11:56:01
1984年,铁路警察王林生请假回到湖南探望母亲,之后就失去踪迹,枪库里的16支手枪以及1510发子弹也不见踪影

1984年,铁路警察王林生请假回到湖南探望母亲,之后就失去踪迹,枪库里的16支手枪以及1510发子弹也不见踪影

唠叨说历史
2026-11-17 11:30:50
全球最大论坛点评樊振东:尽管两年没打国际赛事,水平仍领先于世界

全球最大论坛点评樊振东:尽管两年没打国际赛事,水平仍领先于世界

杨华评论
2026-11-17 23:58:07
菲律宾60万吨香蕉想卖中国,没想到却被对家抢先,这盘棋输得不冤

菲律宾60万吨香蕉想卖中国,没想到却被对家抢先,这盘棋输得不冤

悦君兮君不知
2026-11-17 21:00:10
江苏常州一医院招募粪便捐赠志愿者,每次提供样本可获100元交通补贴,每月最高可获3000元,工作人员:目前已有50人报名,但仅有2人通过

江苏常州一医院招募粪便捐赠志愿者,每次提供样本可获100元交通补贴,每月最高可获3000元,工作人员:目前已有50人报名,但仅有2人通过

极目新闻
2026-11-17 23:02:45
刘欢墓地曝光,墓碑上的8个大字写尽一生,旁边的小兔子有讲究

刘欢墓地曝光,墓碑上的8个大字写尽一生,旁边的小兔子有讲究

青辉
2026-11-17 17:06:10
镜头先后给到邵佳一和安东尼奥!刘建宏笑了:给主播点赞 话里有话

镜头先后给到邵佳一和安东尼奥!刘建宏笑了:给主播点赞 话里有话

风过乡
2026-11-18 01:20:03
迪拜首富之女重病赴华寻求中医,中医扎五根银针,开口便让他们傻眼

迪拜首富之女重病赴华寻求中医,中医扎五根银针,开口便让他们傻眼

萧竹轻语
2025-10-13 11:40:11
“主持界第一腿”,最不想被记住的其实是腿

“主持界第一腿”,最不想被记住的其实是腿

喜欢历史的阿繁
2026-11-18 08:44:51
2026-11-18 10:00:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
199文章数 91关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

健康
数码
艺术
房产
军事航空

情绪真能让健康人"伤心至死"?

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

房产要闻

6.6亿!海口卖地!

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版