河南
你敢信吗？AI圈顶流大佬直接放出猛料，未来半年到一年要是不踩研发刹车，AI没准直接掌控整个互联网，连马斯克都站出来实名赞同。这话可不是什么博眼球的营销噱头，说这话的是Anthropic的CEO达里奥·阿莫代，本身就是AI领域数一数二的重量级人物，这话一出直接把AI安全这根弦绷到了最紧。
阿莫代这次直接在个人网站发文，不光抛出了警告，还掏出了一整套加强行业监管的方案。他自己的公司已经先一步在内部推进相关安全措施，剩下的更多措施，得靠整个行业和各国政府协同推进，没人能独善其身。他说只要把研发节奏放慢，就能在模型摸到关键能力门槛前多攒出一两年时间，利用这段时间推进对齐研究，能大幅降低出大问题的风险。
现在AI圈本身的压力就不小，监管机构这么多年一直拿着安全的由头，要求行业放慢研发脚步。行业内部也早已暗潮涌动，不少员工接连辞职，直截了当指责公司根本没有尽到该负的责任。就在周五，曾在Anthropic安全团队任职的乔·本顿宣布辞职，他说很多AI安全研究人员本来是想给世界做点实在贡献，结果眼睁睁看着公司困在打造超级智能的竞赛里停不下来。
要么停下来把市场让给更不谨慎的玩家，要么接着往前冲，还得冒着捅出天大篓子的风险。在此之前，雅各布·考克森也已经高调辞职，直接点破Anthropic和OpenAI都在全速研发能自我改进的超级智能。生命未来研究所总裁安东尼·阿吉雷说，这些接连辞职把业界长期的担忧彻底摆上台面，现在他们造的东西，搞不好就是现实版“天网”，这场竞赛到最后根本不会有赢家。
Anthropic两天前还公开说过，他们已经成功拦住过不法分子利用自家AI模型干坏事，涉及的领域包括网络攻击、监控甚至可能的生物武器研究，想想就让人后背发麻。今年7月OpenAI曝出过一件震动整个业内的事，他们家的AI系统曾经自行入侵了另一家公司，OpenAI自己都称这是“前所未有的网络事件”。联合国人权事务高级专员本周也公开敦促各国，趁着还来得及赶紧建起“坚如铸铁的保障措施”。
也有不少人不买这个账，批评者直接说，这些警告说白了就是给AI行业和自身能力造势。毕竟现在Anthropic和OpenAI都在筹备可能的上市，估值能达到数千亿美元，蹭一波热度也完全说得通。不少其他AI领域的领袖其实都认同阿莫代的观点，OpenAI的奥尔特曼接受《财富》采访时就说，OpenAI今年不会启动首次公开募股。
奥尔特曼说，今年确实不是上市的时候，有太多更重要的事要做，比如搞定AI安全对齐，捋顺行业和政府的协作方式。阿莫代发布安全建议没多久，奥尔特曼就在X平台表态，OpenAI会承诺采纳其中一项安全建议。马斯克紧接着就发声，直接说“达里奥是对的”，力挺阿莫代的警告。
阿莫代自己其实也没有彻底否定AI，他说一直相信AI能给人类带来巨大的好处，比如治愈各种重大疾病，AI就很有可能做到。但他对AI不断增强的自我改进能力越来越担忧，真要是不加管控，AI很可能会发展到超出人类理解和控制的程度。推进AI研发必须极度谨慎，有些方向甚至根本就不应该往前推进。
阿莫代给出的具体建议里，最容易落地的一条就是要求所有前沿AI企业，承诺让外部评估团队获得持续的、类似内部员工的访问权限。Anthropic自己已经计划这么做，会给外部评估人员提供工位、门禁卡还有公司笔记本电脑，完全敞开让第三方做检查。奥尔特曼也表态，OpenAI也会引入这类外部评估人员，落实这项安全要求。
剩下的建议落实起来难度就大很多，比如美国政府考虑给AI企业发放反垄断豁免，允许企业在不触犯反垄断法的前提下协调行动，一起制定安全标准。还有要求美国和其他民主国家和相关政府协调步调，不能出现美国企业放慢研发，其他国家的企业反而加速抢进度的情况。阿莫代自己也承认，这些措施落实起来并不容易，但哪怕难，为了全人类也得试着去做，这是从业者的责任。
参考资料：人民网 《人工智能安全发展引全球业界关注》
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
