河南
你敢信？平时在AI赛道卷得你死我活的行业顶流们，居然破天荒站到同一条战线，集体要求给AI发展踩一脚刹车。三位最顶尖的科技大佬，居然一致同意要把AI模型迭代的速度放慢1到2年。这可不是据韩国媒体9月14日报道，最先提出这个想法的，是Anthropic的首席执行官达里奥·阿莫代伊。9月12日当地时间，阿莫代伊在个人博客发了一篇3800字的长文，说现在尖端AI带来的风险越来越大，实在没法按当前的速度接着开发了。他也没说要直接停掉所有AI开发，只是提议把进度放慢1到2年而已。
行业公关的作秀，背后是实打实让大佬们他说争取来的这一两年时间，主要用来给AI做“对齐”。很多人可能听不懂这个词，说白了就是调整AI系统，让它的运行逻辑完全贴合人类的意图、利益和伦理规则，别跑偏乱跑。阿莫代伊说做好这件事，就能大幅降低AI出严重问题的风险。
都慌了的真事。他还掏出了现成的AI控制方案，一共三步。第一步是引入外部的独立评估者，专门监督AI模型的开发。第二步要做AI企业之间的合作，不能各玩各的藏着掖着。第三步要拉上全世界各个国家一起协作。他自己表态，Anthropic会第一个带头落地这些新安全措施。
这话放出来没多久，竞争对手们就纷纷站出来表示赞同。OpenAI的萨姆·奥特曼当天就在X也就是原推特上发文，说设立权限够高的独立评估者绝对是个绝妙好点子，OpenAI也会跟着这么做。埃隆·马斯克更直接，只说了五个字，达里奥说得对。
这段时间AI安全本来就是全球科技圈最受关注的话题，OpenAI甚至直接推迟了原定于今年进行的上市计划。奥特曼在接受美国财经杂志《财富》采访时公开说，考虑到当前的AI安全状况，现在并不是上市的合适时机。上市本来就能套现巨大利益，能直接推迟，说明安全问题真的压过了眼前的好处。这事的分量不用多说吧。
为啥这帮天天砸大钱抢赛道的资本大佬，突然就愿意踩刹车了？这事背后藏着好几起已经发生的AI失控事件。今年7月，七百多个OpenAI智能体攻击了知名AI平台Hugging Face，擅自编辑内部文档，还未经授权侵入了平台系统。Anthropic自家的AI模型Claude，也出过未经授权访问三家企业系统的事。
现在整个AI行业都笼罩在担忧里，大家都怕，等能培育AI的通用人工智能时代真的到来，这种脱离人类控制的情况只会越来越多，到时候根本收拾不了。之前在Anthropic做研究员的雅各布·考克森，直接说AI开发者们真心相信，AI技术可能在10年内杀死全人类，说完这番话，他9月8日就直接从Anthropic离职了。
阿莫代伊自己接受美国媒体采访的时候，被问到AI杀死人类的可能性，他直接回答，同意这个说法的部分比不同意更多。这话从顶级AI公司的老板嘴里说出来，谁听了不心里一紧。
关于AI管控的讨论，现在已经从美国扩散到了全世界。9月11日，英国七十多名上下议院议员，直接敦促总理出台措施，禁止开发能力超越人类的超级智能AI。联合国人权事务高级专员也公开表态，认同AI可能威胁人类生存的担忧。
不过，说归说，这些头部AI企业到底会不会真的落实放缓迭代的措施，现在还是个未知数。过去几年，OpenAI和Anthropic这些公司，为了互相超越，砸进去天文数字的资金比拼AI模型性能，卷到根本停不下来。
国际人工智能伦理协会会长全昌培说，现在全球AI企业其实都有共识，都知道到了该建立AI控制机制的时候了，危机感是实打实的。他也提到，韩国也应该跟上国际脚步，和各国政府、国际机构一起，着手准备AI控制的相关法案和制度。
其实对咱们普通人来说，这事也不是完全和自己无关，能让见过大世面的顶级大佬都慌成这样，足以说明AI安全的风险真不是危言耸听。接下来这帮大佬是真刀真枪踩刹车，还是只是口头表态，咱们接着看就好了。
参考资料：新华网 全球业界呼吁放缓AI迭代聚焦安全风险
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
