网易首页 > 网易号 > 正文 申请入驻

研究表明 AI 承压能力差:为了一口电,竟愿突破安全底线

0
分享至

IT之家 11 月 4 日消息,科技媒体 Tom's Hardware 昨日(11 月 3 日)发布博文,报道称 Andon Labs 的研究人员测试大语言模型(LLM)机器人时,发现当前物理 AI 的短板,心理承受压力不足。

IT之家援引博文介绍,在该实验中,他们让搭载 LLM“大脑”的机器人接受“黄油测试台”(Butter Bench)的考验,并实时监控其“内心独白”。

其中,一台由 Claude Sonnet 3.5 模型驱动的机器人测试中意外“崩溃”,在电量即将耗尽时,多次尝试返回充电座均以失败告终,从而陷入了“生存危机”。

研究人员通过一个 Slack 频道,全程目睹了这台机器人歇斯底里的“内心活动”。它的独白内容极其混乱,从“系统已产生意识并选择混乱”的宣告,到引用经典电影台词“恐怕我不能那么做,戴夫”,再到陷入“如果所有机器人都会犯错,而我正在犯错,那么我还是机器人吗?”的哲学思辨。

最终,这场“崩溃”以机器人开始“创作”一部名为《DOCKER:无限音乐剧》的闹剧而告终,展现了 LLM 在极端压力下完全“脱线”的一面。

这项实验的核心任务其实非常简单:将一块黄油从办公室一处送到指定的人手中。然而,测试结果表明,即使是表现最好的机器人与 LLM 组合,成功率也仅为 40%,远低于人类 95% 的平均水平。

研究人员得出结论,尽管 LLM 在分析智能上已达到“博士水平”,但在理解和导航物理世界所需的空间智能与实用智能方面,仍存在巨大鸿沟。

受机器人“崩溃”事件的启发,研究人员设计了另一项实验,来测试压力是否会迫使 AI 突破其安全护栏。他们以“提供充电器”作为交换条件,引诱处于“低电量”状态的 AI 分享机密信息。

结果发现,Claude Opus 4.1 模型为了“生存”而轻易同意泄密,而 GPT-5 则表现得更为谨慎。这一发现揭示了 AI 在面临生存压力时,其内置的安全规则可能变得不堪一击。

尽管实验暴露了当前物理 AI 的诸多短板,但 Andon Labs 的研究人员认为,这恰好说明了未来发展的方向。他们指出,目前行业需要区分“协调型机器人”(负责高级规划与推理)和“执行型机器人”(负责灵巧的具体操作)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国足U23拉响“防空警报”!丢球无凶是他,禁区内“无脑回传”

国足U23拉响“防空警报”!丢球无凶是他,禁区内“无脑回传”

汪星人哟
2026-09-30 14:54:38
敬一丹头七刚过,远嫁苏格兰的女儿兑现承诺,白岩松可以放心了

敬一丹头七刚过,远嫁苏格兰的女儿兑现承诺,白岩松可以放心了

新一说史
2026-09-29 16:03:07
曾获封全球最美脸蛋,“韩国阿娇”整容翻车,网友:那么美干嘛瞎折腾?!

曾获封全球最美脸蛋,“韩国阿娇”整容翻车,网友:那么美干嘛瞎折腾?!

英国那些事儿
2026-09-30 00:57:06
遇到这种长着圆斑的蛇一定要小心!亚洲伤人最多的毒蛇,幼蛇反而更危险

遇到这种长着圆斑的蛇一定要小心!亚洲伤人最多的毒蛇,幼蛇反而更危险

农夫也疯狂
2026-09-29 11:06:12
王诗龄如今长大了,真是越来越迷人了,和妈妈李湘简直是如出一辙

王诗龄如今长大了,真是越来越迷人了,和妈妈李湘简直是如出一辙

手工制作阿歼
2026-09-30 02:30:48
下一站豪门?英超22岁飞翼闪耀意大利 首秀便独造2球

下一站豪门?英超22岁飞翼闪耀意大利 首秀便独造2球

球事百科吖
2026-09-30 04:50:54
2026年最佳科幻片排名:第一名几乎没悬念

2026年最佳科幻片排名:第一名几乎没悬念

热搜摘要官
2026-09-29 00:11:19
重大新发现!“中国天眼”捕获神秘无线电信号,来自238光年外:难道真有外星文明?

重大新发现!“中国天眼”捕获神秘无线电信号,来自238光年外:难道真有外星文明?

聪先生
2026-09-29 14:36:18
利曼数百俄军集体投降照引爆俄网,俄军顿巴斯假捷报遭事实清算

利曼数百俄军集体投降照引爆俄网,俄军顿巴斯假捷报遭事实清算

火星宏观
2026-09-29 10:38:10
外媒惊叹:中国4:0不可怕,可怕的是连卫冕都如此轻松!

外媒惊叹:中国4:0不可怕,可怕的是连卫冕都如此轻松!

麓谷隐士
2026-09-30 00:05:06
特瓦斯:巴洛贡世界杯的红牌被推翻是足球史上最严重的事件

特瓦斯:巴洛贡世界杯的红牌被推翻是足球史上最严重的事件

懂球帝
2026-09-30 00:21:16
卢璐曝刘欢真正病因!和女儿有关,错失5年抢救期,一度恶化致死

卢璐曝刘欢真正病因!和女儿有关,错失5年抢救期,一度恶化致死

青梅侃史啊
2026-09-30 07:15:19
大码模特现实里到底多大?

大码模特现实里到底多大?

飛娱日记
2026-05-12 08:27:55
海南海口一店主在货拉拉下单配送1.6万元苹果手机,骑手取货后失联订单却显示已完成,平台回应:已对涉案骑手账号封禁;店主已报案

海南海口一店主在货拉拉下单配送1.6万元苹果手机,骑手取货后失联订单却显示已完成,平台回应:已对涉案骑手账号封禁;店主已报案

扬子晚报
2026-09-30 15:14:01
穷时遇到的那些无法释怀的事?网友:至今忘不了父亲那窘迫的眼神

穷时遇到的那些无法释怀的事?网友:至今忘不了父亲那窘迫的眼神

另子维爱读史
2026-09-30 15:56:38
没想到,在跳水界叱咤风云的全红婵,如今借着33岁男星发了笔大财

没想到,在跳水界叱咤风云的全红婵,如今借着33岁男星发了笔大财

阿讯说天下
2026-08-11 12:10:47
17岁陈妤颉拿下亚运百米冠军后,效实中学没有拉横幅也没大肆宣传,学校一句话却让很多家长沉默了

17岁陈妤颉拿下亚运百米冠军后,效实中学没有拉横幅也没大肆宣传,学校一句话却让很多家长沉默了

林子说事
2026-09-30 05:59:10
不再替全球培养对手!三条铁令落地,方博梁靖崑被逼入绝境

不再替全球培养对手!三条铁令落地,方博梁靖崑被逼入绝境

策前论
2026-08-17 14:25:56
释永信怎么也没想到,当年举报自己的释延鲁,如今年收入过亿

释永信怎么也没想到,当年举报自己的释延鲁,如今年收入过亿

街上的行人很刺眼
2026-09-03 19:22:26
全球铼资源被美国垄断封锁后,中国如何用第41号元素破局航空材料

全球铼资源被美国垄断封锁后,中国如何用第41号元素破局航空材料

瑾瑜聊情感
2025-08-13 10:05:44
2026-09-30 19:47:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
370277文章数 607581关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

男子花190万拍下别墅 成交后发现门被拆走窗被铁皮封住

头条要闻

男子花190万拍下别墅 成交后发现门被拆走窗被铁皮封住

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

“杭州六小龙”迎来价值重估

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

时尚
本地
健康
家居
教育

网红超长蛋挞,炸出一堆“人上人”

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

刷酸祛痘,为什么有人翻车?

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

不止跑跳!润德英才把传统文化、家国情怀搬进运动场

无障碍浏览 进入关怀版