网易首页 > 网易号 > 正文 申请入驻

诺奖得主、AI教父辛顿上海演讲:警惕超级智能掌控世界

0
分享至

新京报贝壳财经讯(记者罗亦丹)7月26日,2025世界人工智能大会(WAIC)在上海开幕。图灵奖与诺贝尔奖双料得主,被称为“AI教父”的杰弗里·辛顿(Geoffrey Hinton)首次以线下形式在中国公开亮相,发表了主题演讲。

在这场演讲中,辛顿以神经网络的创始者之一,即如今生成式人工智能主要奠基人的身份,向世界敲响了警钟:“未来,一个超级智能会发现通过操纵使用它的人类来获取更多权力是轻而易举的,之后它将从我们这里学会如何欺骗人类,它将操纵负责将它关闭的人类。”

辛顿深入浅出地解释了超级智能优于人类的理由:大语言模型理解语言的方式与人类非常相似,大语言模型确实“理解”它们所说的话,但与此同时,它们还能够通过“蒸馏”等办法将知识传递给其他独立智能体,只要它们是数字化的,这种共享一次即可实现数十亿乃至数万亿比特的带宽。

当前,数字计算虽然耗能巨大,但多个智能体要拥有相同的模型就能轻松交换各自学到的知识。相比之下,生物计算(即人类)所需能量要少得多,但智能体之间共享知识的效率也差得多。因此,在能源廉价的情况下,数字计算整体上更占优势。

由此,辛顿发出了一个意味深长的诘问:这对人类的未来意味着什么?

在辛顿看来,人工智能在被允许创建自己的子目标时,能更有效地完成任务,两个显而易见的子目标是生存和获取更多权力,因为这有助于人工智能实现其他目标。由此,辛顿得出了文章开头的结论:超级智能最终将操纵负责将它关闭的人类。

辛顿表示,这就像养了一只“小虎崽”的人,未来人类为了生存只能选择放弃这只小虎崽或者找到确保它不会杀死人的方法。

对此,辛顿呼吁建立一个全球性的AI安全研究机构,由各国共同参与,“教导孩子成为一个好人的方法,与让他们变得聪明的方法是相对独立的。各国可以设立人工智能安全研究所与国内研究网络,专注于研究如何让人工智能不想夺取控制权,这样各国可能就不需要透露它们最智能的人工智能是如何运作的。”

编辑 李铮

校对 卢茜

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
歌手张宇去世,年仅48岁

歌手张宇去世,年仅48岁

东方不败然多多
2026-11-20 16:36:51
全面下跌,何时见底?

全面下跌,何时见底?

星图金融研究院
2026-11-20 15:37:21
没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

墨兰史书
2026-11-20 22:10:04
满仓满融死扛存储的大佬,归零了!

满仓满融死扛存储的大佬,归零了!

大财可富司机
2026-11-20 13:55:47
人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

爱看剧的阿峰
2026-11-20 10:41:29
APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

APEC三方会晤刚落幕,返程飞机上川普变卦,大国棋局迎来惊天变化

战友老邓
2026-11-20 12:37:32
阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

互联网大观
2026-11-20 13:49:45
陕西23岁女大学生,被黑人男友传染艾滋,事后称很爱他我不后悔

陕西23岁女大学生,被黑人男友传染艾滋,事后称很爱他我不后悔

妙妙奇思物语
2026-11-20 14:58:41
西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

都市快报橙柿互动
2026-11-20 09:37:46
全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

可达鸭面面观
2026-11-19 21:51:59
武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

武汉95后小伙子承父业收废品,买到一架客机,拆解视频意外爆火,本人回应:把童年顺口溜干成了现实

极目新闻
2026-11-20 15:01:38
半场0-2!中国U17右路“被强吃”,西班牙队太强大,身体处于劣势

半场0-2!中国U17右路“被强吃”,西班牙队太强大,身体处于劣势

汪星人哟
2026-11-20 22:50:26
27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

极目新闻
2026-11-20 16:53:20
高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

蓝星杂谈
2026-11-20 13:04:01
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

夜话奇谭
2026-11-20 14:15:49
美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

美悬赏1000万美元搜集缅甸电诈园区线索,知情人:园区以“欧美盘”为主,已基本搬空

红星新闻
2026-11-20 15:33:23
王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

王思聪洛杉矶豪宅内烤全羊,双手插兜合影显霸气!网友:好惬意

娱乐团长
2026-11-18 13:17:46
2026-11-20 23:52:49
贝壳财经 incentive-icons
贝壳财经
新京报旗下财经品牌
71727文章数 14098关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

手机
时尚
艺术
数码
军事航空

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版