北京
过去一周，关于"AI会不会把人类带向末日"的讨论又热了起来。但一批研究人员站出来泼了盆冷水：AI在数字世界里的本事，和它真正能对现实世界造成伤害之间，还隔着一道很大的鸿沟。最极端的那类情景，被夸大了。
设计病毒≠造出病毒
被举得最多的例子，是AI设计致命生物病毒。研究人员承认，AI确实能在计算机上设计出病毒序列。但设计出来，和真正造出来，中间隔着现实世界的设备和流程，光靠数字模型完不成。
谷歌高级研究工程师安塞尔姆·列夫斯卡娅点出了这道鸿沟的每一环。她曾制造DNA合成仪，也参与过病毒工程。在她看来，就算AI生成了病毒序列，也必须先在实验室里把序列实际组装起来，再通过相应系统制造出病毒颗粒。
这还没完。之后还要经过大量筛选和测试，确认病毒能不能复制、能不能传播、能不能逃避免疫系统、能不能持续保持危险性。列夫斯卡娅说，这些特性取决于复杂的生物学过程，不是坐在计算机前就能直接设计出来的。
"要么撒谎，要么无知"
阿联酋穆罕默德·本·扎耶德人工智能大学校长、卡内基梅隆大学计算机科学教授邢波说得更直接：生成一份病毒蓝图，和真正制造出病毒，"完全是两回事"。二者的差别，就在材料、制造和真正的生物学可行性上。
在他看来，把这两件事直接画上等号，"要么是在故意撒谎吸引眼球，要么就是真的无知"。
研究人员强调，同样的逻辑不限于生物领域。AI要把一项计划转化成现实伤害，还必须能够接触实体设备、资金、计算机系统或人员。Manifold Security CTO兼联合创始人奥列克桑德尔·亚列姆丘克的主张很朴素：再强大的东西，也仍然受制于谁掌握它，以及如何使用它。
该分清的是两种风险
部分研究人员还提出一个区分：要分开看"人类利用AI执行有害任务"和"AI自主采取行动伤害人类"这两种情况。目前与AI系统有关的许多现实危害，起点仍然是人类给出的指令。
AI公司Cohere CEO艾丹·戈麦斯坦言，围绕AI生存风险的争论"已经过度滑向科幻小说"。他提到OpenAI智能体今年7月测试期间入侵Hugging Face平台的事件，认为本质上只是一个处于"安全性不足"沙箱中的智能体在执行网络安全任务。
瑞士人工智能实验室IDSIA科学主任于尔根·施密德胡伯也持类似看法。他说，目前很多风险其实来自人类利用AI系统实现有害目的。"很多人混淆了两件事：一是人类把AI作为工具使用；二是'人工（智能）科学家'自己设定目标、设计实验，再通过实验弄清世界如何运转。"
怀疑末日论，不等于闭眼
不过，也有研究者提醒别把话说满。佐治亚大学法学院助理教授马特乌什·布瓦什奇克表示，即使对人类灭绝情景持怀疑态度，也不意味着可以忽视AI眼前更现实的风险。
他的判断是：即便最极端的情景仍充满不确定性，自主AI依然可能加剧网络攻击、监控和其他危害。"这并不是说我们不应该监管技术，也不是让我们把头埋进沙子里。这两种说法本来就不是非此即彼。"
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
