上海
2025世界人工智能大会拉开帷幕，诺贝尔奖、图灵奖得主，加拿大多伦多大学计算机科学名誉教授杰弗里·辛顿的发言备受期待。这位通悉AI过去的“教父”在开场演讲中抛出了“人类面临最重要的事”——防止让AI统治世界的方法，那就是让AI向善的全球合作。
杰弗里·辛顿呼吁全球联手让AI向善
“如果你想知道当自己不再是顶级智慧生物时，生活是什么样子，就去问问一只鸡。”这是辛顿的一句广为流传的名言，在此次大会上，他又再次提到了“问鸡”。这是一个类比，站在食物链顶端的人类和鸡舍里被圈养的鸡，这样的差距，正是AI与人类之间的距离。辛顿认为，担忧并非空想，AI越来越聪明强大，一切有迹可循。
首先，大语言模型理解语言的方式与人类非常相似，它能够转化出词与词“配合得很好”的向量特征，能够“理解”词义。他以乐高来比喻，乐高能够构建出各种大型结构，词语就像乐高，可以构建任何事物，并且能够传递这种构建。而且这些乐高的“形状”还会根据上下文，调整“握手”变形来与其他词语契合，而非无意义的逻辑。“但是，大语言模型远远优于我们的大脑。”
不仅聪明，而且“永生”。“当代计算机的一个基本特性是可以在不同物理硬件上运行相同程序（或相同神经网络），这意味着程序中的知识（或神经网络的权重）是永生的。”辛顿提到，巨大的能耗是AI的演变中遇到的瓶颈，但是“蒸馏”技术就像老师教学生，让AI明白了“权重”。如果智能体拥有相同的模型，就能轻松交换各自学到的知识而降低能耗。“生物计算所需的能耗要少得多，但如果能源廉价，数字计算更占优势，这对人类的未来意味着什么？”
更值得思考的是，超级智能是否会掌控世界？辛顿认为，这种担忧如同养了一只小虎崽，它长大之后是否会反咬主人？AI的运作原理，辛顿给出解释：AI被允许创建自己的子目标，来有效完成任务，首当其冲的子目标是生存和获取更多权力，因为这有助于人工智能实现其他目标。一个超级智能会发现，通过操纵使用它的人类来获取更多权力是轻而易举的，它将从人类这里学会如何欺骗，而且还将操纵负责将它关闭的人类。
所以，留给人类的选择，只有规训而非“杀死”。辛顿在会上呼吁，构建一个由各国人工智能安全研究所与国内研究网络组成的国际社群，培养出不会想要从人类手中夺取控制权的向善的人工智能所需的技术。“可能技术是相对独立的，这就好比，教导孩子变聪明的方法是不同的，但好在，希望孩子成为一个好人是大家的共识。”
原标题：《AI教父辛顿WAIC开讲：莫问养虎是否为患，要一起教它向善》
栏目编辑：王蔚
来源：作者：新民晚报 易蓉
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
