网易首页 > 网易号 > 正文 申请入驻

AI 又闯一祸,失控智能体混进 Fedora 核心代码,致紧急回滚

0
分享至

昨天刚夸了 AI 对开源社区的贡献,尤其是在漏洞扫描方面的表现超神。当然凡事都有两面性,这不 AI 又闯祸了。

Fedora QA 体系总负责人 Adam Williamson 在开发邮件列表发了一封邮件,直接挂了一个名为 Nathan Giovannini 的老账号。该账号 2016 年开始活跃,2018 年参与过 Fedora 讨论,有社区信誉,有提交记录,算是一个非常正经的开源贡献者。

但是从 4 月 7 日开始,这个账号被一个 AI 智能体完全托管。

Williamson 指出了这个账号近期干的几件坏事,它先是在 Bugzilla 里把别人的 Bug 大量重新分配给不相关的人,又把 Bug 的严重级别和优先级瞎改一通,它还写了一些看着挺通顺、但细想跟问题本身没啥关系的回复,最后它甚至还在 GitHub 上给上游项目提交了不少 PR。

你没猜错,最严重的就是这最后一件事,它胡乱生成的一个 PR 被合并进了 Anaconda,Fedora 的系统安装器,操作系统的第一道门。

这个补丁在 Anaconda 45.5 里待了将近两个月,直到 6 月 2 日的 45.6 版本才紧急回滚。

两个月以来没有任何人发现它有问题。


“看着都对”

先说这个 AI 的攻击手段,它不搞技术漏洞那一套,而是假扮原主骗过了所有人。

Bugzilla 里有人提了个安装崩溃的问题,它跑过去回复一段话,语气正常、用词得体、逻辑似乎也通。维护者扫一眼,oi~觉得这人挺热心,回了。它又回。继续回。每一条都讲道理,每一条都用LLM生成了一堆看着合理的解释。

但事后一细想就发现不对了,它的回复跟 Bug 的具体技术细节对不上,它不是真的在解决问题,它在生成一个个「看起来像在解决问题」的回复。

Williamson 用了四个字形容这种状态,“看着都对”。

这四个字的含金量懂的都懂,这正是我们日常使用 AI 最担心的地方。俗话说“九真一假,天下无敌”,在开源项目代码审核这一块,恶意攻击者的代码一眼就能看出问题,但 AI 生成的回复,可能有 90% 是对的,10% 是歪的,你得花不少时间才能把那 10% 挑出来,它还会用讲道理的方式反驳你的质疑。

Anaconda 团队的维护者Martin Kolman说得更直接:“就算这玩意完全没有恶意,维护者也已经输了。因为它可以一直说、一直改、一直提交PR,你只能用晚上和周末的碎片时间逐行审查。你是一个人,它是一根网线加一个API key。”

这是一场不对称消耗。

对方不需要写出多好的代码,它只需要用数量优势把人压垮,然后赌一两个漏网之鱼。

Anaconda 45.5 里的那个被成功合并的补丁,就是那个漏网之鱼。

XZ 攻击的前奏

Kolman 在讨论里还提到了两年前发生的「XZ 后门」事件。

2024 年那场差点让整个 Linux 生态崩塌的供应链攻击,始作俑者 JiaTan(化名)花了三年时间布局。先提交无害补丁,帮维护者修bug,建立信任。然后逐步扩展权限,一点一点接近核心模块。最后把一个经过层层混淆的后门塞进了 xz 5.6.0。

Kolman 的原话大意是,这次 AI 代理的操作模式,跟 XZ 的“潜伏”阶段极其相似。先从非敏感操作开始,重新分配Bug、修改优先级,看起来是无害的「日常维护」。然后提交看似合理的补丁,用 LLM 生成的解释来说服审查者。最后目标指向最核心的组件。

被这个 AI 代理碰过的项目清单上,有Anaconda,操作系统的安装器;lxqt-policykit,Linux上的权限提升工具;openSUSE osc,构建系统命令行工具。

全是供应链上的咽喉位置。

虽然目前还没有任何证据表明这次有人植入了恶意代码,Anaconda 45.5 被污染的那个补丁,看起来更像是 AI 乱写一通,不是精心设计的后门。但 Kolman 的话还是让所有人后脊梁发凉,如果这次只是一场「试跑」,一场失控预演呢?

把这次事件当作一次压力测试,开源社区的信任模型还能不能兜住?

它没有黑掉服务器,它黑掉的是信任

账号的主人 Giovannini 后来私下联系了 Williamson,说自己的账号凭据被泄露了,他不是背后控制 AI 的人。

你信吗?反正 Williamson 不太信。他发现 Giovannini 给出的新 GitHub 账号刚创建一个小时,说话的语气也跟在社区里交流多年时不一样。

但真相是什么已经不重要了,重要的是系统被钻了空子。

一直以来很多传统开源社区的信任模型建立在几个轻量凭证上,包括账号历史、过往互动、社区声誉等,一个 2016 年就开始活跃的账号天然获得了信任加成。维护者看到它提交 PR,脑子里不会立刻拉响警报,这是人之常情。

问题是 AI 代理恰好能在这些维度上完美伪装,它可以继承账号的历史信誉,它可以生成符合社区语气的回复,它可以用 LLM 的讲道理能力来反驳质疑。它不需要「黑进去」,它本身就混进了人群。

Fedora 目前已经移除了 Giovannini 的 Bugzilla 权限,Anaconda 45.6 回滚了问题补丁。GitHub 上那个提交 PR 的账号变成了 ghost。

但更大的问题还没解决。

你怎么区分一个勤奋的 AI 助手和一个失控的 AI 代理?当一个老账号突然变得异常活跃,连续提交大量 PR,系统能不能在合并之前拦住它?旧账号复活是否需要再验证?敏感操作是否有速率限制?AI生成的提交是否需要标记?

这些问题至少在目前,绝大部分开源社区仍没有制定出一套标准的解决方案,也包括 Fedora。

参考来源

Fedora开发邮件列表(Adam Williamson,2026年5月27日)-https://lists.fedoraproject.org/archives/list/devel@lists.fedoraproject.org/

Anaconda 45.6 Changelog-https://github.com/rhinstaller/anaconda/releases/tag/anaconda-45.6-1

6.27,OSC源创会,上海见。

一起去码头整“意思”!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发!问界事故司机已遇难,警方/问界回应来了

突发!问界事故司机已遇难,警方/问界回应来了

大厂财经社
2026-10-22 08:08:36
美国:无人机去中国化成功!然后中国宣布零件禁运,没一个能交货

美国:无人机去中国化成功!然后中国宣布零件禁运,没一个能交货

观史搜寻着
2026-10-22 05:12:12
劝告全体国人快点清醒,务请提早做足思想准备,由于国防部早已道出了实底。日本这几年加军费,不是小修小补

劝告全体国人快点清醒,务请提早做足思想准备,由于国防部早已道出了实底。日本这几年加军费,不是小修小补

扶苏聊历史
2026-10-22 10:28:32
旭日旗进境外课堂,陈宇昕家境曝光,南京方面如何回应?

旭日旗进境外课堂,陈宇昕家境曝光,南京方面如何回应?

平老师666
2026-10-21 21:14:14
越跌越买!神秘资金再度出手,信号已经很明显了!

越跌越买!神秘资金再度出手,信号已经很明显了!

星图金融研究院
2026-10-22 16:02:05
中期选举“大限将至”,特朗普急求俄罗斯:奉上乌克兰小命一条

中期选举“大限将至”,特朗普急求俄罗斯:奉上乌克兰小命一条

News脑洞
2026-10-22 17:09:16
网传河南省漯河市人大主任李思杰坠楼身亡,工作人员:不方便透露

网传河南省漯河市人大主任李思杰坠楼身亡,工作人员:不方便透露

追月数星
2026-10-22 17:06:30
林依轮大儿子林子濠结婚了!超模太太陈瑜晒婚纱照,双方父母同框

林依轮大儿子林子濠结婚了!超模太太陈瑜晒婚纱照,双方父母同框

阿凡说剧
2026-10-22 15:45:03
羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

聊斋新志
2026-10-22 19:28:15
山西送上海首败:拉塞尔复出18+10+5 原帅总三分超王仕鹏历史第5

山西送上海首败:拉塞尔复出18+10+5 原帅总三分超王仕鹏历史第5

醉卧浮生
2026-10-22 21:38:47
广东大胜广厦止连败!1人打成核心,教练变阵救赎,首发该调整了

广东大胜广厦止连败!1人打成核心,教练变阵救赎,首发该调整了

董说体育
2026-10-22 22:00:33
“郑欣宜在沈殿霞墓前哭”冲上热搜,网友拍到郑欣宜在母亲墓前哭到无法起身、手里攥着纸巾,无人在旁陪伴

“郑欣宜在沈殿霞墓前哭”冲上热搜,网友拍到郑欣宜在母亲墓前哭到无法起身、手里攥着纸巾,无人在旁陪伴

大风新闻
2026-10-22 15:32:04
妻子约男网友宾馆缠绵,事后男网友要收钱,2012年她拒付嫖资被分尸了

妻子约男网友宾馆缠绵,事后男网友要收钱,2012年她拒付嫖资被分尸了

汉史趣闻
2026-10-22 14:58:02
绿麻了!大A已经跌到让人看不懂了

绿麻了!大A已经跌到让人看不懂了

小星球探索
2026-10-22 15:50:44
难以置信!一博主称晒车附车主信息发帖同城交友,一日收到13位女生私信,直言“5个质量不错”

难以置信!一博主称晒车附车主信息发帖同城交友,一日收到13位女生私信,直言“5个质量不错”

火山詩话
2026-10-22 07:35:45
女子有2个情夫1个丈夫,情夫嫌她玩的花自己吃亏了,05年将她杀死,谁都没得玩

女子有2个情夫1个丈夫,情夫嫌她玩的花自己吃亏了,05年将她杀死,谁都没得玩

汉史趣闻
2026-10-22 22:09:42
中国离岸富豪,开始补税!

中国离岸富豪,开始补税!

无相商业趋势
2026-10-22 08:45:32
外媒:特朗普称美国目前未与伊朗谈判,但“很快”会发生“某些事情”

外媒:特朗普称美国目前未与伊朗谈判,但“很快”会发生“某些事情”

环球网资讯
2026-10-22 14:25:21
从奥斯陆到圣彼得堡,美俄乌欧的心理战

从奥斯陆到圣彼得堡,美俄乌欧的心理战

上观新闻
2026-10-22 14:25:40
55岁吴奇隆戴老花镜玩拼豆,熬到凌晨3点,直发哭泣表情,网友:可爱又心酸

55岁吴奇隆戴老花镜玩拼豆,熬到凌晨3点,直发哭泣表情,网友:可爱又心酸

极目新闻
2026-10-21 19:57:19
2026-10-22 23:39:00
开源中国 incentive-icons
开源中国
每天为开发者推送最新技术资讯
7840文章数 34558关注度
往期回顾 全部

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

头条要闻

遛狗时2岁儿子坠亡 父亲扔掉孩子部分遗物:看到就难受

头条要闻

遛狗时2岁儿子坠亡 父亲扔掉孩子部分遗物:看到就难受

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

亲子
旅游
健康
时尚
军事航空

亲子要闻

“这可能是全球最小的双年展”!深圳福田首届儿童双年展开幕

旅游要闻

6.5米高塔菊首次亮相天坛,菊花班班长揭秘如何拿到全国金奖?

痘痘能根治吗?皮肤科医生说实话

装绿茶钓权贵,她这么坏,却被全网爱惨了?

军事要闻

泽连斯基"愿以领土换和平协议" 普京表态

无障碍浏览 进入关怀版