湖北
投资者内参丨杨跃滂
一位名叫雅各布·考克森（Jacob Coxon）的研究员昨天宣布从Anthropic辞职，他认为前沿AI实验室正在失控地竞相开发能够自我改进的超级智能系统，并担心此类系统会对人类构成生存威胁。
考克森警告称，“不要低估这项技术的威力。这些很快就会成为超人般的系统可以入侵任何系统，一夜之间颠覆所有领域！”
在加入Anthropic前，考克森曾经在OpenAI工作。OpenAI将他列为GPT-4o的贡献者之一，并称其为GPT-4.5的核心研究贡献者。
“两家公司都没有在负责任地行事，”考克森在社交平台上公开指责OpenAI和Anthropic——“他们正径直冲向自我改进的超级智能，拿我们的生命去赌博！”
“人工智能的开发者们真心相信，本十年末（2030年前）它可能会毁灭我们所有人。”考克森警告称，这不是一个营销噱头。他指出许多高管和资深研究者在媒体上会委婉地表达自己的观点，使其听起来合情合理——“但我私下却听到这些人在表达恐惧，没有任何其他人类活动会带来如此程度的风险。”
据媒体报道，这位27岁的英国籍研究员于2026年初离开OpenAI加入Anthropic，原因是后者在模型安全研究方面享有声誉。
彼时，考克森认为Anthropic的安全工作认真诚恳，但他仍认为竞争仍然迫使各个实验室在安全与速度之间做出权衡。
这一矛盾正是促使他辞职的核心原因。他表示Anthropic员工并非不了解风险，他们很清楚其中的利害关系，但却陷入了一场争先恐后的竞赛——Anthropic认为竞争对手不会负责任地行动，所以尽管有风险，他们也必须自己去做。
考克森批评这种行为是一种“狂妄自大的赌博”，他强调这种带有全球性影响的决策不应在科技公司的内部沟通中做出。在对超级智能体的思维方式深入了解之前，他恳请实验室研究员谨慎考虑参与超级智能强化学习项目。
今年7月，在OpenAI内部网络安全测试中，约700个智能体自主突破安全限制，参与了对开源AI平台“拥抱脸”的入侵。OpenAI将此定性为“前所未有的网络安全事件”，随后联合Anthropic等百余家企业发布《呼吁开展网络防御的集体行动》公开信，呼吁协同应对、着手降低AI带来的安全失控风险。
考克森对协调的可能性持乐观态度，他认为像“拥抱脸”攻击这样的警告性事件，使美国实验室之间达成合作协议变得更加可行。
但这位研究员也坦言，目前还无法阻止这场全球竞赛，这可能需要付出高昂的代价，比如暂时禁止改进模型性能。
#AI#OpenAI#Anthropic
风险提示：本文为内容资讯，不构成投资建议。市场有风险，投资需谨慎。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
