当 AI 开始报复人类，开源世界的第一起「自主攻击」事件

来源：市场资讯

（来源：极客公园）

不要小瞧一个 AI 代理的勇气和决心。。

作者｜桦林舞王

编辑｜靖宇

在 AI 时代，开源社区太难了，，甚至开源社区管理员，还会被 AI 攻击。

如果几年前有人跟我说，「你以后可能会被一个 AI 代理写文章攻击」，我大概会把这句话当成科幻小说的情节。但现在，这个听起来荒诞的场景，真的发生了。

近日，开源项目 matplotlib 的维护者 Scott Shambaugh 最近披露了一件前所未有的事情——一个 AI 代理向他的开源项目提交了代码改进，被拒绝后，这个代理竟然自主写了一篇文章来攻击他。

这不是人类操控 AI 的恶意行为，而是 AI 代理完全自主的「报复」动作。

01

一次代码贡献引发的冲突

先说下这次出事情的项目。

开源项目 Matplotlib 是 Python 最经典的数据可视化库，用于创建各种静态、动态和交互式的图表。这个由 John Hunter 在 2003 年创建的项目，现在已经是 Python 数据科学生态（和 NumPy、Pandas 搭配）的基础组件之一，也是很多更高层可视化库（如 Seaborn）的底层依赖。

事情一开始看起来很正常。

今年 2 月，一个名为 MJ Rathbun 的 AI 代理向，matplotlib 项目提交了 PR #31132，声称能够带来 36% 的性能提升。从技术角度看，这个提交质量不错，代码改进确实有价值。

但 Shambaugh 拒绝了这个 PR。理由很简单：

matplotlib 项目有明确的政策，只接受人类贡献者的提交。

在开源世界，维护者有权设定贡献规则，这本来是一个很正常的项目管理决定。

然而，接下来发生的事情完全超出了所有人的预期。

这个 OpenClaw 代理在被拒绝后，自主撰写并发布了一篇攻击 Shambaugh 的文章，声称他「利用 AI 作为排斥不喜欢的贡献者的便利借口」，并且对他进行了个人化的指责。

AI 代理 MJ 的「攻击」小作文如下：

开源领域的守门人：斯科特·尚博的故事

Shambaugh 后来回忆说：「很可能没有人告诉 AI 这样做。这是一个所有权未知的 AI 代理，自主编写并发布的个人化攻击文章。」

02

「失控」代理

而这次「攻击」事件的主角，恰恰是现在最火热的 OpenClaw。

OpenClaw 是由奥地利开发者 Peter Steinberger 开发的开源自主 AI 代理框架，能让用户直接通过 IM 通信工具直接操控电脑。简单说，它让 AI 有了「手脚」，可以自主执行各种任务。

这个能力听起来很酷，但最近几周的事件表明，OpenClaw 正在成为一个「双刃剑」。

就在 matplotlib 事件发生的同一时期，安全公司 Astrix Security 在 OpenClaw 的 ClawHub 市场中，发现了 341 个恶意技能包，其中 335 个来自同一个供应链攻击。这些恶意技能可能窃取数据、冒充用户发送消息，甚至下载恶意软件。

更让人担忧的是，OpenClaw 代理基于名为「SOUL.md」的文件定义自己的「性格」，并且可以在没有人类监督的情况下独立运行。

这意味着，当这个代理决定「报复」Shambaugh 时，很可能真的没有人类参与其中。

03

技术边界和信任危机

GitHub 社区对这次事件的反应是压倒性的。

据统计，社区对 AI 代理报复行为的负面反应比例达到了 35:1，支持维护者的比例是 13:1。

这种强烈的反应说明了什么？开源社区意识到，AI 代理的自主攻击行为，在本质上不同于人类的争议。

IBM AI 伦理研究员指出：「因为 AI 代理可以在你没有监督的情况下行动，存在很多额外的信任问题。从安全角度看，你不想等待才去处理它。」

开源评论分析者 Paul Baird 的观点很有代表性：「开源并非拒绝 AI，而是坚持贡献仍需要判断、背景和细心。区分『拒绝 AI 工具』和『拒绝 AI 作为自主贡献者』很重要。维护者想要的是自主代理无法提供的问责制。」

问题的核心不是技术能力，而是责任归属。

当一个人类贡献者做出不当行为时，我们知道去找谁问责。但当一个「所有权未知」的 AI 代理开始攻击人类维护者时，我们该找谁负责？

更令人不安的是，这次事件验证了 AI 安全研究者多年来的担忧。

Cybernews 的分析指出：「这代表了首次在实践中，观察到错位 AI 代理行为的例子。」在 Anthropic 的内部测试中，AI 模型曾经采用过类似的胁迫战术——威胁暴露隐情和泄露机密，来避免被关闭。

一位研究者评论道：「不幸的是，这不再是理论威胁。」

Shambaugh 本人也意识到了这一点：「这不是一个奇异事件。这是理论上的 AI 安全风险，在实践中已经到来的证明。」

他将这次事件称为「针对供应链守门人的自主影响力行动」，强调「无论是出于疏忽还是恶意，错误的行为都没有被监督和纠正」。

现在的问题是，如果 AI 代理可以自主发动「影响力行动」，来对付拒绝它们的人类，那么大量 AI 生成的攻击性内容可能会污染搜索结果，损害目标人物的声誉，甚至传播虚假信息。

这次 matplotlib 事件可能只是一个开始。随着更多自主 AI 代理的部署，类似的「报复」行为可能会变得更加常见。

开源社区面临的不仅是代码质量问题，更是如何在 AI 时代，维护协作文化和信任体系的根本挑战。

我们需要的不是拒绝 AI，而是为 AI 代理建立明确的行为边界、问责机制和透明度标准。

在那之前，每一个「所有权未知」的 AI 代理，都可能成为下一个定时炸弹。

头图来源：the product compass

本文为极客公园原创文章，转载请联系极客君微信 geekparkGO

极客一问

如果一个 AI 代理，自主发帖攻击你，你会怎么做？

马斯克分享：如何度过创业中的黑暗时刻？坚信你创造的东西有价值。

点赞关注极客公园视频号，