北京
【CNMO科技消息】据CNMO了解，《人类简史》作者尤瓦尔·赫拉利近日在接受国内媒体采访时谈到超级智能的话题。其认为，超级智能AI很难控制，甚至将操控人类。
对于“假设AI变得有意识或产生了欲望，人类是否还能控制它？”这一经典问题，赫拉利表示，人类无法控制超级智能，一旦它变得超级智能，游戏就结束了。没有任何智力较低的物种能长期控制智力较高的物种。他认为，人类可以对AI设置各种限制，但如果它比我们更智能，就会找到规避方法，或说服我们改变限制。在网络安全领域，最薄弱的环节总是人类。你可以创建完美的网络安全系统，但敌人可以操控一个人类绕过所有防御。超级智能AI终将操控人类。
如何避免这样的问题？赫拉利认为，人类无法预见未来所有潜在发展和AI自身的发展。如何在几年内为一个思维和行为方式与我们完全不同的超级智能非有机体做到这一点？这是个巨大问题，因为你无法预见所有情况……人们说2030年就会有超级智能，但我们不可能在2030年前解决为AI制定宪法规则的哲学问题。
在赫拉利看来，最好的办法是放慢速度。与其试图设计AI，不如建立一种关系，让我们在共同进化中互相学习，在通用人工智能到来前有足够时间纠正错误。赫拉利指出，然而我们陷入了AI军备竞赛的局面，我们会迅速创造出超级智能AI，无法控制和约束它们。最终统治世界的不是美国人，也不是中国人，而是AI。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
