比尔·盖茨发出警告：AI可能造成10亿人死亡！人类该醒醒了

提到比尔·盖茨，大伙印象里就是那个靠做软件发家，后来跑去做慈善的Tech圈老爷子，一辈子都是技术改变世界的拥趸。结果最近他对着全美电视镜头抛出一句话，直接把热搜炸了，不少人瞬间联想到天网觉醒的科幻剧情，吓得不轻。但翻看完整采访你会发现，绝大多数人都误读了他的意思。

这话出自9月25日NBC《与媒体见面》放出的采访片段，盖茨说人工智能能引发导致十亿人死亡的事件，可他从头到尾没说AI会自己产生意识造反。他反复强调的核心，从来都是“心怀恶意的人”。

说白了，他怕的从来不是AI本身，是坏人拿到了过去只有大国才能玩得起的破坏力武器。

放在以前，你要搞出大规模的破坏，门槛高到离谱。就说生物恐怖袭击吧，得有P4级别的实验室，凑齐一帮跨学科专家，有钱有场地还得躲情报部门的监控。这么多年来，真正成功的生物袭击没几起，1984年美国俄勒冈那起沙门氏菌污染案子，也就影响了几百人。

放到现在完全不一样了，一个懂点基础生物学的普通人，对着没设防的AI敲几行字，就能拿到能绕过现有疫苗的病原体基因序列。过去一个团队要好几个月才能做完的蛋白结构分析，AI几秒钟就出结果。门槛直接从国家级跌到了个人手里，这种落差才是最吓人的。

盖茨说的十亿这个数字，哪里是预言，明明是他画的一条红线。他自己也知道这个数字太夸张，肯定能上，能挨骂，但不用这么大的量级，根本叫不醒装睡的决策者。要是说AI可能害死几万人，华盛顿的政客眼皮都不会抬一下。他不是在算命，是在喊人醒过来。

他这次也把话挑明了，科技企业自我监管根本靠不住。不管是OpenAI的红队测试还是谷歌的安全对齐，听起来挺像那么回事，放到商业竞争和军备竞赛面前，就是一张一捅就破的纸。必须要政府部门下场，搞强制性的安全监管和监控，他还特意补了句，监管不会拖慢行业发展，这两头拉扯的纠结，才是最真实的状态。

其实盖茨喊风险真不是第一次了，很多人都忘了他2015年就在TED说过，未来几十年能杀死上千万人的不是导弹，是病毒。当时台下也就礼貌鼓个掌，没人把这个慈善家的话当回事。

五年之后新冠疫情来了，上百万人身亡，全球经济停摆，医疗系统差点被冲垮，所有人都记住了这个教训。这件事对盖茨的冲击太大，从那之后他对人为制造的病毒风险，就一直没放下过警惕。

今年1月他发年度公开信就写得很明白，现在比自然大流行更危险的，是非政府团体用开源AI设计生物恐怖武器。这话是年初就写好的，不是这次采访临时编出来博眼球的。

今年8月底他还在个人博客发长文谈AI风险，说按现在的发展速度，AI最终带来净负面结果的可能性非常高，还列了四个核心风险：大面积失业、网络安全崩溃、生物恐怖主义、AI本身失控。

有意思的是，不到一个月之后，盖茨基金会就宣布，两年内投10亿美元，把AI用到教育和医疗的普惠场景里。一边砸钱让AI救人，一边警告AI可能害死十亿人，怎么看都像是精神分裂对吧？

其实这反而是他最诚实的地方。整个圈子没几个人像他这样同时站在AI的两面，他拿着微软的股票，管着全球最大的私人慈善基金会，既亲眼见过AI帮发展中国家的孩子看病、帮医生读片的好处，也清清楚楚看到同一个工具落到坏人手里的毁灭性。

他不像硅谷很多CEO那样，对外只说改变世界的光明面，把风险藏在财报会议室里，只字不提。这种撕裂感，其实就是我们每个普通人面对AI的真实状态。

你手机里帮你写周报、陪你聊天、给你推菜谱的AI，和盖茨嘴里那个能制造大杀器的AI，本质上就是同一个东西。技术本身不站队，站队的是使用技术的人。

还有个很容易被忽略的风险，梵蒂冈有个AI顾问说过一句很到位的话，核武器的威力是从物理上毁灭人类，生成式AI的威力，是从根本上摧毁人类共同生活的基础。

啥意思呢？哪怕没有什么大规模袭击，哪天你分不清网上的是真是假，算法天天给你投喂对立情绪，整个社会在真假难辨的信息里撕得四分五裂，文明自己就会从内部烂掉。十亿人死亡是够上的猛料，这种每天都在发生的、看不见的侵蚀，才是真正磨人的。

现在全球对AI的态度也特别分裂。欧盟动作最快，早在8月就正式执行了全球第一部全面的《人工智能法》，要求聊天机器人必须告知用户你在和AI对话，AI生成内容要标记，大模型厂商要履行透明度义务，框架已经搭得很完整。

美国这边就热闹多了，六月份白宫签了行政令，要求前沿模型发布前自愿提前三十天给联邦报备，注意是“自愿”，说白了就是想来就来不想来就不来。特朗普前不久还在联合国大会整活，说以后美国官方文件里不许叫“人工智能”，得改叫“超级智能”，理由是“人工”听起来太假，谁也说不清这是营销还是行为艺术。

这边有议员提了激进法案，要求在安全测试和监管到位之前，永久禁止开发人类无法控制的AI，那边也有科技公司的研究员直接辞职吹哨，说公司拿全人类的命赌博，不少高管私下怕得要死，媒体面前还装得云淡风轻。

说白了现在就是这么个局面，所有人都知道AI安全是大事，可没人知道该踩多大的刹车。

盖茨这次喊话真正的价值，根本不是那个十亿的数字，是他把一层窗户纸捅破了：AI安全已经不是实验室里的学术讨论，是必须要政府、司法、立法部门介入的公共政策问题。

以前科技公司总说“这是我们行业内部的事，外人不懂”，现在这句话已经说不出口了。可咱们也得实话实说，监管天生就比技术慢半拍。今天立的法管的是今天的模型，两年后模型能力翻了十倍，法条还没变，就像疫情的时候各国都补口罩产能，新的病毒早就变异了。

最棘手的问题还是不好区分意图，科学家用AI设计新药，坏人用AI设计生物武器，操作层面用的可能是同一套工具同一种算法，怎么监控？监控谁？到现在全球没有一个政府拿出可操作的答案。

所以盖茨这一嗓子，更像是在混乱的十字路口摁了一声喇叭。他没说清楚方向盘该往哪打，至少把所有走神的司机都喊醒了，让大家都看一眼前方的路。

对咱们普通人来说，真不用天天担心天网明天就降临。我们只要慢慢养成一个小习惯就行，看到离谱的先停两秒想想会不会是假的，接到熟人的语音电话多留个心眼核实一下，听到耸人听闻的消息先找找原始信源。

AI不会明天就灭掉人类，但它会一点点降低我们对真实的信任，等到所有人都对真假麻木的那天，不用AI动手，社会自己就散了。盖茨说的十亿人是说给决策者听的，我们普通人要听的，是这话背后离我们很近的那个提醒。

参考资料：央视新闻 比尔·盖茨发出人工智能安全风险警示