四川
就在这几天，比尔·盖茨在NBC的《面对媒体》节目上说了一番话，让很多人看完沉默了很久。
他说，一个心怀恶意的人，加上最新的AI工具，构成了人类历史上有史以来最强大的武器组合。如果不加以控制，人工智能"足够强大"，可能导致十亿人死亡。对每一个AI系统不要求安全措施，是"完全不负责任的"。
这话不是第一次说，但这一次说得最重。
盖茨今年66岁，已经从微软退出了二十多年，按理说他没有任何"带货"的动机，不需要靠制造恐慌来卖产品。但从今年年初到现在，他不止一次在各种场合反复发出同一个警告——AI的风险，远比科技公司愿意承认的要大得多。
1月，他专门警告了AI被用于生物恐怖主义的风险；8月，纽约时报记录他在华盛顿出席听证会和接受采访时，一次次强调解决AI风险是"世界头等大事"。这一次NBC的发言，是他今年这条警告线上最新的一个节点。
盖茨在节目里描述的最坏情景，不是科幻电影里的机器人起义，而是一个现实得多、也残酷得多的画面。
关键词是"生物武器"。
他的逻辑是这样的：过去，要制造一种能大规模杀伤人类的生物武器，你需要顶级的实验室、专业的科学家团队、数以亿计的研发经费，还需要多年时间。这道门槛，把绝大多数"心怀恶意的人"拦在了外面。
但AI出现之后，这道门槛正在以肉眼可见的速度降低。
今年的AI工具已经可以分析病毒基因序列、模拟蛋白质结构、预测突变方向——这些能力单独拆开来看都是医学研究的利器，但放在错误的人手里，就是合成新型致命病原体的路线图。更可怕的是，这些工具对所有人开放，成本极低，使用门槛越来越低。
盖茨说，他真正担心的不是AI本身，而是AI和人类最黑暗的意图相结合之后的化学反应。
一个以前需要国家级资源才能实现的毁灭性行动，未来可能只需要一台电脑、一个联网账号，和一个足够疯狂的人。
十亿人死亡这个数字，他算的就是这种情景。
盖茨这番话之所以引发激烈反应，还有一个背景：他是在公开质疑特朗普政府的AI政策框架。
特朗普上台后，推翻了拜登时期关于AI安全监管的行政令，主张政府不应该过多干预AI发展，理由是限制监管才能让美国在AI赛道上赢过中国。这套逻辑的核心是：AI是地缘政治竞争的工具，安全是次要的，赢才是首要的。
盖茨直接反驳了这个框架。他说，把AI问题纯粹理解为一场与中国的竞争，而不是一个生存安全问题，是一种危险的误判。
共和党方面的反击很快。共和党全国委员会成员艾米·克雷默说，那些"否认现实情况"的人，是被大AI公司雇来"误导美国民众"的。
投资公司CEO南希·腾格勒则认为，盖茨的框架忽略了一个关键点：美国必须像赢得冷战军备竞赛一样赢得这场AI竞赛，安全顾虑不能成为落后的借口。
这个争论的分歧，其实不只是技术问题，而是两种完全不同的世界观在碰撞：一种认为AI最大的威胁来自被对手超越，另一种认为AI最大的威胁来自失控本身。
盖茨不是唯一发出这种警告的人，但他是最有影响力的那个之一。
盖茨说，对每一个AI系统不要求安全措施，是"完全不负责任的"。这句话听起来像常识，但在当下的政策环境里，这句常识需要一个有名字、有声量的人站出来大声说，才会有人认真对待。
问题是，认真对待了之后，能做什么？
监管AI的安全性，意味着需要各国坐下来达成某种共识。但现在，美国在说"先赢再说"，中国在说"发展是硬道理"，欧洲在出台法规但执行力存疑，没有一个主要大国真的愿意在这件事上踩刹车。
盖茨说十亿人可能死亡。这个数字可能是夸张，也可能不是。但有一件事可以确定：当这个警告说出来的时候，世界上没有任何一个地方有一套成熟的机制来防止它发生。
参考资料：
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
