广东
达里奥·阿莫代伊，也就是AI公司Anthropic的首席执行官，近期以视频形式在联合国安理会“人工智能与国际安全”高级别会议上发言，把AI风险的层级再次拉高。他坦言，自己对亲手打造的这项技术感到担忧，并且明确提出，如果管控失当，AI会演变成关乎全人类的安全威胁，不再只是单纯的技术难题。在这个全球最高级别的安全议事平台上，一名前沿AI企业的掌舵人公开抛出如此沉重的警示，自然引发巨大讨论，很多人都在思考，这究竟是发自内心的风险预警，还是一场带有其他诉求的公开表达。在这次发言中，阿莫代伊提出三条全球治理方向，推动国际达成协议，禁止利用AI研发制造生物武器，搭建国与国之间可以互相核验承诺落地情况的评估体系，还要制定统一的AI风险测试规范，建立重大AI安全事件的通报机制。
阿莫代伊并不是第一次对外呼吁约束前沿AI的发展节奏，本月早些时候，他就在个人网站发布长文，提出要给前沿AI的发展设定速度，不是直接停止模型训练，而是在完成模型训练、对外发布之前，预留充足时间开展安全评估，做好对齐加固。理由是AI自我迭代提升的速度，已经超出预期，一旦持续加速，人类很可能跟不上理解和管控的能力。此次在安理会，他进一步对外承诺，Anthropic会主动放缓前沿模型的研发节奏，还允许第三方评估人员进入企业，实时查看研发过程，主动给自己的研发工作加上外部监督的枷锁。
不过对于AI风险这件事，行业内部看法并不统一。阿莫代伊的观点，曾经遭到特朗普的反对，特朗普认为AI不需要复杂的管控框架，只需要有足够智慧的领导人把控即可。英伟达创始人黄仁勋也不认同过度渲染AI的末日风险，外界普遍认为，英伟达的商业根基高度绑定AI产业扩张，立场难免会受到自身产业利益影响。更值得关注的是Anthropic内部传出的声音，本月初，有着OpenAI和Anthropic三年预训练研究经历的研究员雅各布·考克森选择辞职，他在公开文章里写道，参与AI研发的从业者，发自内心相信这项技术有可能在这个十年结束前，给全人类带来毁灭性后果。而公司负责AI对齐科学团队的负责人埃文·胡宾格也公开认可这一判断，他个人判断，未来十年出现这类极端风险的概率超过10%。
普通人很容易理解AI的物理伤害逻辑，下意识会想到AI设计出致命病毒，带来生物灾难。但从现实条件来看，即便AI能够推演设计病原体，它本身没有实体操作能力，想要落地制造病毒，依然需要现实世界里的人动手参与。而且自然界的病毒传播本身存在衰减规律，人类也拥有对应的防疫和医疗手段，单纯依靠病毒很难实现灭绝人类的结果。AI真正特殊的风险，更多体现在数据、基础设施层面，它可以篡改、销毁关键数据，扰乱金融系统、公共基础设施，造成大范围社会瘫痪。这种混乱和地震、瘟疫、战争不一样，没有固定的物理边界，不会随时间自然消退，也没有过往历史经验可供参考，一旦爆发，普通人很难感知到危险源头，更谈不上等待灾难自行平息。
普通人感知AI风险，大多停留在社会层面，担心AI抢走大量工作岗位，拉大技术精英和普通民众之间的差距。这种风险真实可感，但距离“威胁人类存续”的极端场景很远。可有意思的现象是，越是深度参与前沿AI研发、身处行业核心位置的人，对远期风险的警惕程度越高。这里存在一个很现实的代价不对称问题，如果阿莫代伊的判断是错的，全球各国和企业投入精力做安全评估，最多就是牺牲一部分商业收益，放缓技术变现速度。可一旦他的预警成真，人类或许没有补救的机会。所以即便不直接采信他所有悲观判断，对前沿AI安全保持足够重视，本身是一件有必要的事。
阿莫代伊反复强调，没有任何一个国家、企业或者领导人，能够独自应对AI带来的全球性挑战，需要各国携手合作。但这件事最讽刺的地方就在于，他一边呼吁全球共同搭建AI安全治理框架，一边又支持限制向中国出口高端AI芯片与芯片制造设备，以此维持美国在AI领域的技术优势。连这名主动敲响警钟的企业负责人，都无法放下技术竞争的地缘私心，可想而知想要在美国各界形成统一的AI安全治理共识，难度会有多高。目前全球最顶尖的AI训练和试验项目大多集中在美国，这也意味着，如果未来真的爆发大型AI安全事故，风险爆发点大概率会出现在这里。AI安全治理这件事，最大的阻碍从来不是技术本身，而是技术大国之间难以放下的竞争博弈。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
