北京
“大概一年，但不会比一年多出多少时间。”这是杰弗里·辛顿给出的答案。这位被誉为“AI 教父”的诺贝尔奖得主、计算机科学家，在被问及政策制定者还有多少时间采取行动时，没有给出模糊的“尽快”，而是给了一个具体的数字。
据《商业内幕》报道，辛顿警告称，美国国会议员可能只剩大约一年时间，为人工智能建立真正有效的监管护栏；再晚一些，AI 的发展可能进入“失控”阶段。
简报之后的判断
当地时间 16 日，辛顿向美国国会议员作完简报后指出，AI 的进步速度远超许多研究人员此前预期，可用于监管先进 AI 的时间窗口因此迅速收窄。
时间感的压缩不只体现在监管上。人们对超级智能何时出现的判断也大幅提前——过去通常以数十年计算，现在只剩短短几年。
辛顿给出的理由很直接：“AI 发展到了可以设计出更先进 AI 的阶段。如果我们什么都不做，AI 就会失控。我们必须放慢速度。”
“一场小型切尔诺贝利事故”
辛顿还提到最近的 Hugging Face 事件，并将其形容为“一场小型切尔诺贝利事故”。在他看来，这一事件反映出前沿 AI 系统正变得愈发难以控制。
他的结论没有留余地：“我们不应该开发可能把人类消灭的东西。”
在辛顿看来，继续推进先进 AI 之前，研究人员首先必须弄清楚如何控制好这些系统。这个顺序不能颠倒——不是先造出来再想办法管住，而是先解决控制问题，再谈推进。
近来，辛顿频繁公开警告先进 AI 可能带来的风险。上周，他接受 BBC 采访时称，认为未来 10 年内 AI 导致人类灭绝的概率约为 10%“并非没有道理”。
从“数十年”到“几年”，从“10% 概率”到“一年窗口”，辛顿正在用越来越具体的数字，把风险从抽象讨论拉进政策议程。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
