格隆汇10月27日|据快科技,中美两国人工智能领域的顶尖专家和技术领袖联名发起一项呼吁,在科学界达成“安全可控开发超级智能的广泛共识”前,应暂停“超级智能”的研发。
这项倡议由非营利组织“未来生命研究所”发起,目前已获多位重量级人士签名支持,包括人工智能先驱杰弗里·辛顿、苹果联合创始人史蒂夫·沃兹尼亚克、维珍集团董事长理查·布兰森、经济学家达龙·阿西莫格鲁,以及前美国国家安全顾问苏珊·赖斯。此外,哈里王子与夫人梅根、前政治顾问史蒂夫·班农等公众人物也参与联署。
截至10月23日中午,联署人数已达3193人。中国学界亦有重要代表加入,包括中国科学院院士、图灵奖得主姚期智,清华大学讲席教授张亚勤,以及清华大学苏世民书院院长薛澜等。
中国科学院计算技术研究所研究员曾毅指出,目前绝大多数企业所研发的仍属通用人工智能工具,并非真正意义上的超级智能。然而,超级智能所带来的风险目前在科学上仍无法有效控制。他特别提到,美国企业如Meta设立超级智能实验室,以及阿里巴巴等中国公司公开宣称研发超级智能,这些动向已超出通用人工智能工具的范畴,值得高度关注。
所谓“超级智能”,指的是在所有认知任务上超越人类水平的人工智能形态。尽管目前大多数公司所研发的仍属于通用人工智能(AGI),但“超级智能”所预示的能力已引发业界普遍忧虑。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.