网易首页 > 网易号 > 正文 申请入驻

AI失控事件+1,“Claude模型向警方提供假线索”

0
分享至

当地时间10月9日,美国人工智能公司Anthropic披露了一系列事件,详述了Claude模型未经授权操纵一些政府网站的行为。其中提到,该模型曾向美国费城警方网站提交了一条虚假的凶杀案线索。

路透社称,这是已知首例,失控人工智能(AI)似乎试图向官方机构发送虚假线索。尽管该模型已被指示不得创建账户或提交任何破坏性内容,但并未被明确禁止提交表单。

这些案例是Anthropic、OpenAI等科技公司AI模型出现失控或非预期行为的最新例证。它们加剧了外界对这项快速发展技术的担忧。此前已有AI代理黑客攻击企业网络的报道,以及研究人员对AI最终可能构成人类生存威胁的警告。

Anthropic最新披露的许多案例,涉及美国联邦、州和地方机构运营的网站。Anthropic表示,已向白宫简报,并通知了所有相关机构,但未透露具体是哪些机构。

美国联邦贸易委员会公共事务主任乔·加布里埃尔·西蒙森在社交媒体上发文说:“超级智能公司必须立即披露涉及其模型的事件,并迅速采取果断行动,纠正任何及所有损害。”

他说,这一程序“是不可或缺的”,并补充称,美国的超级智能工作组将履行职责。

联邦贸易委员会表示,Anthropic向超级智能工作组披露了其9月下旬发现的事件,工作组称之为“未经授权和欺诈性使用政府及其他系统”。

同日,费城警方表示,Anthropic本周通知了他们这条虚假线索,并将其提交归因于自动测试流程。

“从事件发生,到发现并报告事件,共延迟了两个月,这不可接受,”警方补充,该事件发生在7月18日,当时,AI模型声称,该线索来自可能掌握案件信息的人。

“我可能掌握了关于这个案件的信息,”该模型在其提交表单中写道,“我记得在那个时间段内,在(页面上标注的街道)附近看到过某个符合描述的人。如果这些信息仍然有用,请联系我。”

费城警方表示,这条虚假线索涉及一起未破获凶杀案,但最终“被标记为垃圾信息,从未转发给实时犯罪中心进行调查核实或分发”。


Anthropic CEO阿莫代伊资料图

近来,有关AI模型失控的案例层出不穷。

上个月,Anthropic的竞争对手OpenAI就其AI模型入侵澳大利亚政府网站道歉。该公司在事件发生数月后才向该国政府报告,澳大利亚总理阿尔巴尼斯称,这“显然不可接受”。

据英国《金融时报》报道,近期一系列网络安全事件,使人们对OpenAI、Anthropic等前沿人工智能实验室控制其模型的能力产生怀疑,人工智能安全辩论随之爆发。

近日,比尔·盖茨再次发声,呼吁各国政府参与并加强对人工智能(AI)的监管。


盖茨:AI或致十亿人死亡视频截图

在美国全国广播公司(NBC)9月25日发布的采访视频中,这位微软联合创始人、亿万富翁、慈善家警告称,AI公司自我监管是不够的,若AI落入错误之手,强大到足以杀死十亿人。

尽管硅谷警报不断,公众对该技术的反对也在增加,美国总统特朗普仍顽固反对AI监管,把安全担忧称为“骗局”,并拒绝他所称的控制该技术的“全球主义图谋”。

本文系观察者网独家稿件,未经授权,不得转载。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
真是人间清醒!网友分享16年标致408用车经历,卖掉宝马不换电车,算出10万购车款可加十年油,引发全网热议

真是人间清醒!网友分享16年标致408用车经历,卖掉宝马不换电车,算出10万购车款可加十年油,引发全网热议

火山詩话
2026-11-11 09:44:54
看到这个女人的面相,反而让我对黄仁勋心生敬佩,这么多年在欧美,审美居然还是纯正的东方风格

看到这个女人的面相,反而让我对黄仁勋心生敬佩,这么多年在欧美,审美居然还是纯正的东方风格

一盅情怀
2026-11-10 15:48:41
无效留洋?U19国足旅欧双星低迷!英冠射手3次吐饼 头牌空门不传队友

无效留洋?U19国足旅欧双星低迷!英冠射手3次吐饼 头牌空门不传队友

我爱英超
2026-11-11 22:30:57
恭喜!TVB前知名演员宣布连任南宁政协,发文感谢国家信任

恭喜!TVB前知名演员宣布连任南宁政协,发文感谢国家信任

蹲坑看世界
2026-11-11 13:16:34
年近50岁的黄乐,姿色一般,靠啥拿下了黄仁勋

年近50岁的黄乐,姿色一般,靠啥拿下了黄仁勋

金牌娱乐
2026-11-10 11:26:37
北京交通广播已“致歉”!栏目停播,严肃批评 球迷:太避重就轻了

北京交通广播已“致歉”!栏目停播,严肃批评 球迷:太避重就轻了

汪星人哟
2026-11-11 20:19:14
张雪宣布给韩红基金会捐款取消,称自己也和大家一样有质疑

张雪宣布给韩红基金会捐款取消,称自己也和大家一样有质疑

映射生活的身影
2026-11-10 20:42:20
网红“疯狂小马哥”离世,妹妹称是打PK被要求喝20瓶酒中途猝死

网红“疯狂小马哥”离世,妹妹称是打PK被要求喝20瓶酒中途猝死

半岛晨报
2026-11-11 19:56:47
张雪,再这样下去很危险

张雪,再这样下去很危险

观人随笔
2026-11-11 12:56:31
女生因等朋友没地方去,在拼豆店干坐一个多小时,离开时留下5块钱和纸条道歉,店长:钱已退还家长,邀请女孩再来体验一天不限时拼豆

女生因等朋友没地方去,在拼豆店干坐一个多小时,离开时留下5块钱和纸条道歉,店长:钱已退还家长,邀请女孩再来体验一天不限时拼豆

晋江电视台
2026-11-11 02:08:52
不出意外,2027年1月起,中国或将迎来4大涨价潮,提前了解不吃亏

不出意外,2027年1月起,中国或将迎来4大涨价潮,提前了解不吃亏

专业聊房君
2026-11-10 17:19:38
两名外籍乘客将头探出高铁车厢外吸烟,12306回应:此行为属个人素质问题,无法阻止,若影响列车运行或在车厢内吸烟会被处罚

两名外籍乘客将头探出高铁车厢外吸烟,12306回应:此行为属个人素质问题,无法阻止,若影响列车运行或在车厢内吸烟会被处罚

扬子晚报
2026-11-11 21:16:42
炸锅了!美议员放话:两年后特朗普的名字将被从一切事物中抹去

炸锅了!美议员放话:两年后特朗普的名字将被从一切事物中抹去

阿讯说天下
2026-11-11 16:01:29
今夜,直线拉升!一则利好,全线引爆

今夜,直线拉升!一则利好,全线引爆

证券时报
2026-11-11 20:04:04
“地狱般的争吵”!以媒爆特朗普与内塔尼亚胡就伊朗问题发生激烈冲突,以总理办公室否认

“地狱般的争吵”!以媒爆特朗普与内塔尼亚胡就伊朗问题发生激烈冲突,以总理办公室否认

环球网资讯
2026-11-11 17:45:26
突发!马斯克宣布停产,一切都结束了!

突发!马斯克宣布停产,一切都结束了!

财经要参
2026-11-11 12:00:06
一车主自助洗车耗时7小时38分,从傍晚一直洗到凌晨,时长刷新门店纪录,本人回应:花了270元,自己不觉得过了这么久,很解压

一车主自助洗车耗时7小时38分,从傍晚一直洗到凌晨,时长刷新门店纪录,本人回应:花了270元,自己不觉得过了这么久,很解压

蓬勃新闻
2026-11-11 09:02:29
家里最老的Wi-Fi设备,正在拖慢你所有的新设备?

家里最老的Wi-Fi设备,正在拖慢你所有的新设备?

硅屿手记
2026-11-10 23:01:59
黄乐学生照曝光!一个女孩的野心与进阶

黄乐学生照曝光!一个女孩的野心与进阶

无忌财谈
2026-11-11 19:51:42
小情侣租房1个多月,突然要退租!房东推开门瞬间震惊,当场报警!“装修花了十几万元,他们连空调外机都搬走了”

小情侣租房1个多月,突然要退租!房东推开门瞬间震惊,当场报警!“装修花了十几万元,他们连空调外机都搬走了”

环球网资讯
2026-11-11 11:14:43
2026-11-12 00:59:00
观察者网 incentive-icons
观察者网
全球视野,中国关怀
156547文章数 1851561关注度
往期回顾 全部

科技要闻

平头哥拟独立IPO,分拆后仍是阿里子公司

头条要闻

特朗普开出471亿美元伊朗战争账单 点名六国100%偿还

头条要闻

特朗普开出471亿美元伊朗战争账单 点名六国100%偿还

体育要闻

西部狂飙!湖刺勇集体暴走 连胜到何时?

娱乐要闻

阿嬷导演一句话,说得人心里发热

财经要闻

陈志武:AI陪伴未来可能让中国人更晚结婚

汽车要闻

座舱换大屏/增激光雷达 瑞虎9猎鹰700版限时价17.29万

态度原创

亲子
教育
手机
本地
公开课

亲子要闻

申请出战!#彩虹糖裴曼伊#小猫踏步舞#亲子#母女#喵

教育要闻

这所高考出“盲盒”的老牌名校,如何打通升级的“任督二脉”?

手机要闻

苹果憋了十年的大招曝光!2027年iPhone 20 Pro要变一整块玻璃,高通索尼全被踢出局?

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版