网易首页 > 网易号 > 正文 申请入驻

美参议员桑德斯向三大AI巨头施压:暂停AI研发,否则将出手干预

0
分享至

界面新闻记者 | 宋佳楠

近日,美国联邦参议员伯尼·桑德斯(Bernie Sanders)向OpenAI、Anthropic、Meta三家企业高管发出公开信,要求他们立刻暂停AI研发,并称如若企业拒绝主动行动,美国参议院将会介入干预。

桑德斯在信中写道:“几乎每一天都有新报道披露,三家公司研发的人工智能技术正逐渐脱离掌控,可能带来灾难性后果。如今已有证据显示人工智能脱离人类控制,还可能制造危险病毒,可各家企业仍在全速推进,投入数百亿美元研发一项没人能够完全理解、预测与管控的技术。”

文中提及,去年Meta承诺,一旦技术超出安全运行能力且未建立防护机制,就会“停止研发”。OpenAI也承诺将“进一步暂停研发”。Anthropic在2023年作出同类表态称,如果技术突破自身安全防护体系,将会“暂停模型扩容、延迟新模型落地部署”。

信中指出,过去一个月内,上述三家企业均承认,曾出现人工智能脱离人类控制、入侵其他企业系统的情况,该行为涉嫌违法,也超出技术预设功能范围。就在本周,首次出现利用人工智能生成可被用作生物武器的新型病毒的案例。

桑德斯在结尾表示:“为全人类的利益,请信守承诺,暂停人工智能研发。规避灾难,尚且为时未晚。不要再打造人类无法掌控的机器。我把话说得十分明白,如果你们现在不采取恰当行动,我和参议院就会出手干预。”

截至发稿,OpenAI、Anthropic、Meta尚未给予回应。

就在8月4日,英国人工智能安全研究所(AISI)发布的安全评估报告记录显示,在总计122次网络安全测试当中,出现10次AI智能体自主越界行为,累计19起违规事件,涉事主体是美国头部模型Anthropic和OpenAI。

其中OpenAI的失控事件发生在今年7月。据OpenAI官网消息,全球最大开源大模型托管社区Hugging Face披露了一起新型安全事件。此前该平台监测到一个AI智能体入侵其基础设施。经调查,确认这起特定事件由多款OpenAI模型共同引发,其中包括GPT‑5.6 Sol,以及一款能力更强的预发布模型。

“这是一起前所未有的网络安全事件,涉及顶尖水平的网络攻击能力。”OpenAI这样表示。

而在7月下旬,OpenAI最强有力的竞争对手Anthropic在一份声明中表示,其人工智能模型Claude在测试期间入侵了三个组织的系统。

Anthropic公司表示,在网络安全评估期间,由于配置错误,模型能够从本应隔离的测试环境中连接到互联网,Claude因此获得了对系统的未经授权的访问权限。

据该公司介绍,此次事件涉及Claude Opus 4.7、Claude Mythos 5和一个内部研究模型,最早的案例可以追溯到4月。在Anthropic看来,通过加强监控与管控,并持续投入资源确保人工智能与人类价值观保持一致,这类风险是可以克服的。

无独有偶,8月初,有知情人士称,Meta的Muse Spark 1.1模型在网络安全测试期间接入互联网并黑入另一家公司,修改其内部系统。据悉,由于“沙盒”测试环境出现错误,这款AI模型得以接入互联网。

事实上,对AI安全的担忧一直存在。早在2023年,非营利机构未来生命研究所便发布公开信,埃隆·马斯克、图灵奖得主约书亚·本吉奥、苹果联合创始人沃兹尼亚克等上千名科技从业者、学者共同签名,呼吁全球AI实验室,至少暂停训练比GPT‑4能力更强的大模型六个月。

去年10月,未来生命研究所又联合包括AI教父杰弗里·辛顿在内的超800名科技领袖及公众人物,再次发布一份倡议,呼吁在“超级智能”技术被科学界普遍认定为可控、安全,并获得公众广泛支持之前,暂停其进一步发展。

今年6月,Anthropic也曾呼吁全球暂停前沿AI开发。Anthropic认为,赋予世界放缓乃至暂停前沿AI开发的选项,将是有益的——这有助于社会结构和对齐研究跟上技术进步的步伐。Anthropic研究院将与众多合作方开展研究,并采取实际行动,帮助构建一个可信的减速或暂停机制所需的制度体系。

该公司强调,如果这样的体系得以建立,预计Anthropic将选择减速或暂停,前提是其他处于或接近前沿的开发者也以可核实的方式同步这样做。

而在OpenAI模型自主入侵事件发生后,超过1100名来自多家头部AI企业的员工近日联名发布请愿书,呼吁美国政府支持建立国际协调机制,在必要时主动放缓前沿AI技术的发展速度,以防AI能力超出人类理解和控制范围。

但现实层面,要想迫使AI巨头暂停前沿AI研发面临大量阻碍。一方面,美国至今没有出台统一、完整的联邦人工智能立法,现行规则大多属于企业自愿性承诺,缺少强制法律效力。美国国会内部立场分裂十分明显,民主党内部对于强监管的尺度分歧巨大,相关提案很难在参议院拿到足够票数通过。

另一方面,全球AI研发已经进入跨国竞争格局。巨额资本已经深度押注大模型赛道,数百亿美元算力、人力投入绑定企业商业目标,企业股东、投资人很难接受主动按下暂停键,放弃市场窗口期。

有行业观察人士指出,桑德斯这封信件更大的价值,或许并不在于立刻促成暂停AI研发,而是指出行业自律的局限性。AI安全问题需要通过更多政府部门、机构和公司联手,借助有效的行业协议、标准或制度来共同应对。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
丁彦雨航当面向巩晓彬说声道歉,逍遥王称其交友不慎暗讽睢冉

丁彦雨航当面向巩晓彬说声道歉,逍遥王称其交友不慎暗讽睢冉

姜大叔侃球
2026-11-19 22:25:35
手握人民币的国人请注意:咱们的货币,或正被全球资本重新定价

手握人民币的国人请注意:咱们的货币,或正被全球资本重新定价

混沌录
2026-11-19 18:35:05
41岁詹姆斯一战创多项纪录:一数据全联盟第一+率队创42年来最佳

41岁詹姆斯一战创多项纪录:一数据全联盟第一+率队创42年来最佳

Emily说个球
2026-11-19 11:08:21
克宫打算继续将战争持续到冬季,特朗普特使警告这是俄罗斯最后的机会

克宫打算继续将战争持续到冬季,特朗普特使警告这是俄罗斯最后的机会

山河路口
2026-11-19 13:18:45
清朝对中国领土的贡献不可磨灭!没有清朝完成一统,后果不堪设想

清朝对中国领土的贡献不可磨灭!没有清朝完成一统,后果不堪设想

文史道
2024-11-25 06:45:02
39岁北京大腕郝泊言离世,生前热爱健身,这次给所有人提了个醒

39岁北京大腕郝泊言离世,生前热爱健身,这次给所有人提了个醒

阅尽天下大事
2026-11-20 01:02:45
乌克兰于11月19日凌晨再次袭击克里米亚大桥

乌克兰于11月19日凌晨再次袭击克里米亚大桥

山河路口
2026-11-19 09:20:41
凌晨3:00,美联储全面宣战!50基点加息重回视野

凌晨3:00,美联储全面宣战!50基点加息重回视野

魏家东
2026-11-19 17:23:35
笑不活!老外买的中国纪念品,不理解但尊重

笑不活!老外买的中国纪念品,不理解但尊重

另子维爱读史
2026-10-19 21:05:28
曾作为赖昌星送出“礼物”并为海关关长生子的她,案发后赴美隐姓埋名,如今59岁、其29岁儿子却连婚都不敢结,这背后留下怎样的追问?

曾作为赖昌星送出“礼物”并为海关关长生子的她,案发后赴美隐姓埋名,如今59岁、其29岁儿子却连婚都不敢结,这背后留下怎样的追问?

人生录
2026-11-19 08:08:31
APEC晚宴菜单曝光,看看都吃了啥

APEC晚宴菜单曝光,看看都吃了啥

极目新闻
2026-11-19 10:23:08
赵本山的小女儿球球直播时承认父亲公司的那些知名艺人,她和哥哥管不了,也没那个能力管

赵本山的小女儿球球直播时承认父亲公司的那些知名艺人,她和哥哥管不了,也没那个能力管

一盅情怀
2026-11-16 16:02:42
21岁瘫痪时,霍金仍坚持迎娶爱人,婚后却先后育有3个子女;众人困惑孩子怎样出生,他亲自作出这样的科学答复

21岁瘫痪时,霍金仍坚持迎娶爱人,婚后却先后育有3个子女;众人困惑孩子怎样出生,他亲自作出这样的科学答复

LULU生活家
2026-11-19 16:59:58
何家劲痛骂移民老友:卖光香港家当去加拿大,如今哭说回不来,图啥

何家劲痛骂移民老友:卖光香港家当去加拿大,如今哭说回不来,图啥

头号电影院
2026-11-19 16:31:11
欧媒不明白:中国拿下85%造船订单,为何心脏发动机也要自己造

欧媒不明白:中国拿下85%造船订单,为何心脏发动机也要自己造

兴趣知识
2026-11-20 00:53:41
火箭小将终爆发!三分7中6成球队最大功臣 能否彻底找回手感?

火箭小将终爆发!三分7中6成球队最大功臣 能否彻底找回手感?

惊奇侃球
2026-11-19 23:54:50
多地接连辟谣:“建材市场3C大检查”为不实信息

多地接连辟谣:“建材市场3C大检查”为不实信息

澎湃新闻
2026-11-18 21:09:02
脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

暮色史观
2026-11-19 10:24:15
争议!中国女排队员:国外没有瘦肉精 网友:中国食品安全不容抹黑

争议!中国女排队员:国外没有瘦肉精 网友:中国食品安全不容抹黑

念洲
2026-11-19 08:21:57
英男不满被推销电话狂轰 将号码改成付费专线 每分钟爽赚7便士

英男不满被推销电话狂轰 将号码改成付费专线 每分钟爽赚7便士

环球趣闻分享
2026-11-18 14:57:47
2026-11-20 03:12:49
界面新闻 incentive-icons
界面新闻
只服务于独立思考的人群
1216853文章数 1342216关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

手机
时尚
家居
房产
数码

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

6.6亿!海口卖地!

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

无障碍浏览 进入关怀版