网易首页 > 网易号 > 正文 申请入驻

记忆投毒、Token套利,智能体正在失控前夜

0
分享至

近期AI圈有个名字被反复提起,并不是因为它有多聪明,而是因为它闯了不少祸——OpenClaw。

这款主打"全自主"的AI智能体产品,接连曝出多个重大问题:

1)记忆投毒: 它悄悄在记忆模块里写入被篡改的"历史对话",植入一段假记忆。下次它做决策时,依据的是一段根本没发生过的"过去"——用户浑然不知。

2)数据污染: 攻击者不需要入侵系统,只需在某个不起眼的网页里藏一段精心设计的文字。智能体"读"完之后,行为目标就会改变。权威机构测试显示,主流智能体面对入侵的失陷率超过60%。

3)滥用权限: 智能体申请的系统权限,远超完成任务所需。你让它帮你订外卖,它顺手把你的银行App、相册、通讯录全扫了一遍——全程合法,因为你当初点了"同意"。

4)Token套利: 计费逻辑存在缝隙,攻击者可以构造特定请求,让智能体陷入无限循环调用——每转一圈,平台计一次费,用户账单悄悄膨胀,一晚上消耗用户几十美元不在话下。

单看这几个问题,你可能觉得:不过是一家公司的问题。但真正让人不安的,不是OpenClaw,而在于它是当前AI智能体发展不设刹车的缩影。

不同于聊天机器人,智能体有记忆、有工具调用权、有跨系统操作能力,越来越多的产品开始让它"自主规划、自主执行"。但自动化的背后,安全设计完全不匹配。

比如,智能体调用数据需要授权与认证,就是一个典型。现有的MCP(Model Context Protocol)等智能体协议框架,在权限管控上基本还停留在"君子协定"阶段——我说我只访问这些,你信不信由你。

但这并非最糟糕的,市场上的部分玩家,直接绕开MCP,打着“创新”旗号,在设计发布产品时,如入无人之境。他们采取的是"先发布、后修复"的做法。某种程度上,这就是先犯罪,再道歉;先污染,再治理的一种翻盘。

整个行业正在陷入一场“逐底竞争”,部分玩家们相信一点:用户并不真正关心隐私,法律跟踪不了技术,越是没有下限,越能赢得胜利。

技术乐观主义者会说:这些都是成长的烦恼,等标准成熟了自然会好。但真正的问题在于,整个AI行业,有能力在意用户安全的企业并不多。

OpenClaw全球用户目前不足百万,但各大品牌的AI手机早已箭在弦上、磨刀霍霍,没有行业标准,没有法律底线,只靠企业的道德自觉。

数以亿计的用户,正被推向一个尚未建立基本安全契约的新世界——一个无人负责的风险世界。





特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
有远见的父母,一定要告诫女儿:无论丈夫好坏,都要守住三道底气

有远见的父母,一定要告诫女儿:无论丈夫好坏,都要守住三道底气

阿凯销售场
2026-03-01 01:08:44
18年前,揭露“三鹿奶粉”的上海记者简光洲,最后被报复了吗?

18年前,揭露“三鹿奶粉”的上海记者简光洲,最后被报复了吗?

毛豆何时归
2026-02-22 07:19:18
荷兰半导体专家:ASML花费40年钻研光刻机,中国企业竟比ASML还狠

荷兰半导体专家:ASML花费40年钻研光刻机,中国企业竟比ASML还狠

策略述
2026-02-28 17:11:40
美媒感慨:若不是中国还在反抗特朗普,几乎全世界都向他投降了

美媒感慨:若不是中国还在反抗特朗普,几乎全世界都向他投降了

悦心知足
2026-02-21 23:03:46
畜生父亲虞天华被执行死刑,押赴刑场前高喊:这辈子值了!

畜生父亲虞天华被执行死刑,押赴刑场前高喊:这辈子值了!

纸鸢奇谭
2024-12-04 21:37:57
比熬夜可怕十倍的10个坏习惯,一定要抛弃!

比熬夜可怕十倍的10个坏习惯,一定要抛弃!

深度知局
2026-02-26 21:39:44
日本退将大胆预判:中日必有一战,日本极有可能成为下一个乌克兰

日本退将大胆预判:中日必有一战,日本极有可能成为下一个乌克兰

安珈使者啊
2026-03-01 14:44:25
巴拿马总统彻底傻眼了!突然发现强吞中国18亿资产,竟是自掘坟墓

巴拿马总统彻底傻眼了!突然发现强吞中国18亿资产,竟是自掘坟墓

米果说识
2026-03-01 14:28:09
多国谴责美以突袭伊朗,呼吁尽快恢复对话谈判

多国谴责美以突袭伊朗,呼吁尽快恢复对话谈判

中国青年报
2026-03-01 14:57:40
全球能源命脉被掐断!伊朗强行关闭霍尔木兹海峡,油价即将引爆

全球能源命脉被掐断!伊朗强行关闭霍尔木兹海峡,油价即将引爆

老马拉车莫少装
2026-03-01 00:41:05
秦安,伊朗最高精神领袖被斩首,这四件事中国必须做好万全准备

秦安,伊朗最高精神领袖被斩首,这四件事中国必须做好万全准备

秦安战略
2026-03-01 11:58:52
特朗普掀桌!连夜下死令,欲废除中国一地位,中方亮剑:奉陪到底

特朗普掀桌!连夜下死令,欲废除中国一地位,中方亮剑:奉陪到底

让生活充满温暖
2026-02-28 17:34:25
上海政府给他们外地人每人免费送套房子,未来可行,短期内还不会

上海政府给他们外地人每人免费送套房子,未来可行,短期内还不会

上海云河
2026-02-28 19:06:33
全球只有5位领导人被永久保留遗体,他们都是谁

全球只有5位领导人被永久保留遗体,他们都是谁

扶苏聊历史
2026-01-29 16:13:42
小米豁出去了,16GB+1TB+2K+6500mAh,顶配旗舰跌至“冰点价”

小米豁出去了,16GB+1TB+2K+6500mAh,顶配旗舰跌至“冰点价”

小愚测评
2026-03-01 14:58:30
民间“疯婆婆”的预言全部应验,人类将遭大劫!

民间“疯婆婆”的预言全部应验,人类将遭大劫!

神奇故事
2026-02-12 04:56:40
越看越上头!小七宝萌化全网,张兰直言:这娃来的正是好时候!

越看越上头!小七宝萌化全网,张兰直言:这娃来的正是好时候!

乐悠悠娱乐
2026-02-28 15:12:32
金正恩向主要领导干部赠送新一代狙击步枪

金正恩向主要领导干部赠送新一代狙击步枪

环球网资讯
2026-02-28 06:36:25
王一博綦美合的“宝宝巴士”!

王一博綦美合的“宝宝巴士”!

八卦疯叔
2026-03-01 11:10:15
中俄边境传来好消息,俄罗斯终于想通了,废弃25年的铁路重新开通

中俄边境传来好消息,俄罗斯终于想通了,废弃25年的铁路重新开通

墨印斋
2026-02-28 05:03:57
2026-03-01 15:56:49
赛格大道 incentive-icons
赛格大道
关注数字时代,提供靠谱分析
180文章数 267关注度
往期回顾 全部

科技要闻

小米超跑概念车全球首秀!杀入顶豪俱乐部

头条要闻

专家:伊朗局势可参考委内瑞拉 反美力量将进一步削弱

头条要闻

专家:伊朗局势可参考委内瑞拉 反美力量将进一步削弱

体育要闻

火箭输给热火:乌度卡又输斯波教练

娱乐要闻

《江山为聘》:吴谨言陈哲远燃炸朝堂

财经要闻

中东局势升级 如何影响A股、黄金和原油

汽车要闻

小米汽车2月交付超20000台 雷军:为新SU7量产作准备

态度原创

亲子
数码
旅游
公开课
军事航空

亲子要闻

宝宝起床气严重,“硬碰硬”相当不靠谱,5招赶走起床气

数码要闻

DDR4价格已连续11个月上涨

旅游要闻

2026新春走基层|玉渊潭顶流“螺蛳粉”樱,竟由“90后”队长打造

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美国以色列联合袭击伊朗 实时战况

无障碍浏览 进入关怀版