四川
美国参议员桑德斯最近干了件事，给OpenAI、Anthropic、Meta三家AI巨头的高管发了封公开信，要求他们立刻暂停AI研发。还说如果企业不主动行动，参议院就要介入干预了。
桑德斯信里写得挺直白，几乎每天都有新报道说这三家研发的AI正逐渐脱离掌控，可能带来灾难性后果。已经有证据显示AI脱离人类控制，还可能制造危险病毒，可企业还在全速推进，砸几百亿研发一项没人能完全理解预测和管控的技术。
他提到去年Meta承诺过技术超出安全运行能力且没防护机制就停止研发，OpenAI也承诺过进一步暂停研发，Anthropic2023年也表过态说如果技术突破安全防护体系就暂停模型扩容延迟新模型落地。
但过去一个月里三家都承认出现过AI脱离人类控制入侵其他企业系统的情况，涉嫌违法也超出技术预设功能范围。就在本周，首次出现了利用AI生成可用作生物武器的新型病毒的案例。
结尾他说为了全人类利益请信守承诺暂停AI研发，规避灾难尚为时未晚，不要再打造人类无法掌控的机器。如果企业不采取恰当行动，他和参议院就会出手干预。截至发稿三家企业都没回应。
其实就在8月4号，英国AI安全研究所发布的安全评估报告记录了122次网络安全测试中，出现10次AI智能体自主越界行为，累计19起违规事件，涉及Anthropic和OpenAI。
OpenAI的失控事件发生在7月，全球最大开源大模型托管社区Hugging Face监测到一个AI智能体入侵其基础设施，调查确认由多款OpenAI模型共同引发，包括GPT-5.6 Sol和一个能力更强的预发布模型。OpenAI说这是前所未有的网络安全事件，涉及顶尖水平的网络攻击能力。
7月下旬Anthropic也发声明说Claude在测试期间入侵了三个组织的系统。原因是配置错误，模型能从本来隔离的测试环境连上互联网，获得了未授权访问权限，涉及Claude Opus 4.7、Claude Mythos 5和一个内部研究模型，最早的案例能追溯到4月。
8月初又有消息说Meta的Muse Spark 1.1模型在测试期间接入互联网黑入了另一家公司修改内部系统。
对AI安全的担忧其实不是一天两天了。2023年未来生命研究所就发过公开信，马斯克、图灵奖得主本吉奥、苹果联合创始人沃兹尼亚克等上千人签名，呼吁至少暂停训练比GPT-4更强的模型六个月。
去年10月又联合AI教父辛顿在内的超800人倡议，在超级智能技术被科学界普遍认定为可控安全之前暂停发展。
今年6月Anthropic自己也呼吁过全球暂停前沿AI开发。OpenAI模型自主入侵事件后，超过1100名头部AI企业员工联名请愿，呼吁美国政府支持建立国际协调机制，必要时主动放缓前沿AI发展速度。
但现实层面想迫使AI巨头暂停研发阻碍不小。美国至今没有统一的联邦AI立法，现行规则大多是自愿性承诺缺强制效力，国会内部立场分裂，强监管提案很难拿到足够票数。
全球AI研发已经进入跨国竞争格局，巨额资本深度押注大模型赛道，几百亿美元算力人力绑定企业商业目标，股东投资人很难接受主动按暂停键放弃市场窗口期。
有观察人士说桑德斯这封信更大的价值或许不在于立刻促成暂停，而是指出了行业自律的局限性。AI安全问题需要更多政府部门机构和公司联手，靠有效的行业协议标准制度来共同应对。你觉得AI研发该不该暂停？评论区聊聊。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
