网易首页 > 网易号 > 正文 申请入驻

“AI教父”辛顿:人类对AI没有“摆脱”这一选择,但应该找到“驯服”办法

0
分享至

7月26日,2025世界人工智能大会(WAIC)正式开幕。图灵奖得主、诺奖得主、“AI教父”杰弗里·辛顿(Geoffrey Hinton)发表主题演讲再谈AI(人工智能)安全。

杰弗里·辛顿(Geoffrey Hinton)

辛顿表示,人类理解语言的方式实际上很像大语言模型,因此人类实际上很像大语言模型,也会产生幻觉,经常编造东西,特别是当他们试图回忆很久以前发生的事情时。但他也指出,大语言模型与人类非常不同且优于人类的是,计算机科学的一个基本原则是,该将软件与硬件分开,正是这一点让人们可以在不同的硬件上运行相同的程序,它使得计算机科学能够成为一个独立于电气工程的领域,如果你做到了这一点,那么程序中包含的知识就是“不朽的”。

辛顿进一步解释称:“如果你能把程序保存在某处,或者能把神经网络的权重存储在某个地方,那么你现在就可以销毁运行神经网络的所有硬件。只要你有权重存储在某个地方,你现在就可以建造新的硬件,并且因为计算是数字化的,你可以在这些新硬件上运行完全相同的计算。所以在这个意义上,数字计算机的程序是‘不朽的’。”

辛顿同时指出,数字计算需要大量能量,但它使得拥有完全相同权重的智能体(Agent)能够非常容易地共享它们从不同经验中学到的东西,生物计算需要的能量要少得多,但共享学到的东西却很困难。如果能源很便宜,数字计算就会好得多。

“这让我非常担忧,因为几乎所有的专家都相信我们将制造出比我们更聪明的AI。我们如此习惯于作为顶尖智能,以至于很多人难以想象一个AI比我们更聪明的世界会是什么样子……”辛顿表示,想知道非顶级智能体的感受?不妨问问鸡的生存体验。

辛顿认为,我们正在创造AI智能体是因为它们更擅长完成任务,这些AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力,智能体就会想做两件事:一是生存,仅仅是为了能够实现我们赋予它们的目标;二是更多的控制权,也仅仅是为了能够实现我们赋予它们的目标。因此,人类将会拥有想要生存和想要更多控制权的智能体,“而且我们将无法简单地关闭它们,它们会发现操纵使用它们的人非常容易,我们将像三岁小孩,而它们将像成年人,所以我认为那种当它们比我们更聪明时,我们就能让某人把它们关掉的想法是不切实际的,它们将能够操纵我们,并说服那个应该关掉它们的人不要那么做”。

辛顿将人类目前的处境比作养小老虎当宠物,小老虎非常可爱,能成为很好的宠物,但需要确保当它长大后它不想吃了你。“一般来说,养小老虎当宠物是个坏主意,有两个选择:想办法训练它让它永远不想吃了你,或者摆脱它。”辛顿表示,对于AI,我们没有摆脱它的选项,AI对医疗保健、教育、气候变化、新材料等太多事情都非常有用,能为几乎所有行业提供帮助并使人类更具生产力。

辛顿表示,如果人类想要生存,必须找到办法训练AI,不要让AI消灭人类。

辛顿指出,目前没有一个国家希望AI接管,每个国家都希望人类继续保持掌控权,如果任何一个国家找到了防止AI接管的方法,他们会非常乐意告诉所有其他国家。因此,他建议建立一个由AI安全研究所和协会组成的国际共同体,致力于研发训练AI向善的技术,实现训练AI向善所需的技术与训练AI变得更聪明的技术,在某种程度上是分离的,让一个真正聪明的AI不想接管世界,即使它比大多数人聪明得多,也非常乐意处于人类的辅助角色。

“我们目前根本不知道如何做到这一点,长远来看,这是人类面临的最重要的问题。好消息是,这是一个所有国家都应该能够合作解决的问题。”辛顿最后如是说到。

本次世界人工智能大会以“智能时代 同球共济”为主题,共规划了超100场专业论坛,汇聚1200余位全球专家,12位图灵奖、诺奖得主,大会将持续至7月28日。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
今日小雪,记得:1不去,做2事,吃3样,忌4事,安康过冬福气多!

今日小雪,记得:1不去,做2事,吃3样,忌4事,安康过冬福气多!

神牛
2026-11-22 00:40:04
内罗毕恐袭一战封神,一条牛仔裤,为何成特战标配装备

内罗毕恐袭一战封神,一条牛仔裤,为何成特战标配装备

装甲铲史官
2026-11-20 10:35:11
董璇张维伊:一串网红糖葫芦,一场夫妻小挑战,把日常玩出松弛味

董璇张维伊:一串网红糖葫芦,一场夫妻小挑战,把日常玩出松弛味

传递满满正能量
2026-11-19 06:52:32
Rockstar承认GTA 6地图留了空位:赌场和动物园暂不开放

Rockstar承认GTA 6地图留了空位:赌场和动物园暂不开放

字节漫游指南
2026-11-20 03:07:48
腾讯边缘化元宝

腾讯边缘化元宝

侃故事的阿庆
2026-11-20 07:05:34
不是迷信!今天小雪,“最不能”做的5件事,别忘了告诉家人

不是迷信!今天小雪,“最不能”做的5件事,别忘了告诉家人

简食记工作号
2026-11-22 00:09:20
U17国足0:5惨败! 听听媒体人赛后怎么说, 詹俊点评句句在理!

U17国足0:5惨败! 听听媒体人赛后怎么说, 詹俊点评句句在理!

田先生篮球
2026-11-21 06:49:20
中国斯诺克2胜1负!巩晨智6-2过关,会师傅家俊,黄佳浩打赢性别大战,新人1-6惨败!

中国斯诺克2胜1负!巩晨智6-2过关,会师傅家俊,黄佳浩打赢性别大战,新人1-6惨败!

刘姚尧的文字城堡
2026-11-21 21:29:35
俄罗斯因挑起战争正在被世界边缘化

俄罗斯因挑起战争正在被世界边缘化

秋月独朗
2026-11-17 07:09:23
《GTA 6》首日狂揽37.9亿美元,超越《复联4》总票房

《GTA 6》首日狂揽37.9亿美元,超越《复联4》总票房

自愈小日子
2026-11-21 04:07:16
北京49岁岳母自述:从前并不觉得世上有天生坏种,直到遇到了他

北京49岁岳母自述:从前并不觉得世上有天生坏种,直到遇到了他

温情邮局
2025-05-12 15:59:16
这3款SUV落地不到10万,比轿车实用,安全舒适当床车都行

这3款SUV落地不到10万,比轿车实用,安全舒适当床车都行

鸭梨说车
2026-11-21 09:09:17
金价大跌!消费者:前两天才买!打算再买点平仓

金价大跌!消费者:前两天才买!打算再买点平仓

看看新闻Knews
2026-11-20 19:14:40
1958年粟裕落难后,林彪“明批暗保”,并安慰他:你缺少党内斗争经验

1958年粟裕落难后,林彪“明批暗保”,并安慰他:你缺少党内斗争经验

帝哥说史
2026-11-20 06:35:04
又一部惊艳韩片,一上线就夺下票房第一!

又一部惊艳韩片,一上线就夺下票房第一!

热荐电影
2026-11-21 21:34:26
安徽芜湖34岁男子曹家杰失联已经6个多月,最后定位显示在境外。

安徽芜湖34岁男子曹家杰失联已经6个多月,最后定位显示在境外。

好词好文
2026-11-21 09:55:18
部分70后只缴15年社保,为啥2030年这个节点很关键?

部分70后只缴15年社保,为啥2030年这个节点很关键?

小虎新车推荐员
2026-11-22 00:19:56
月入3万多,1天打4份工:30多岁女子养2个孩子,买了房和宝马车

月入3万多,1天打4份工:30多岁女子养2个孩子,买了房和宝马车

汉史趣闻
2026-11-20 18:57:11
61-73爆冷!广东男篮轰然倒下,遭香港队淘汰,进攻不稳+失误困扰

61-73爆冷!广东男篮轰然倒下,遭香港队淘汰,进攻不稳+失误困扰

汪星人哟
2026-11-21 22:47:05
玄学提醒:再大的事,默念这三句话,终究平安无事,万事顺遂!

玄学提醒:再大的事,默念这三句话,终究平安无事,万事顺遂!

时尚的弄潮
2026-11-14 17:07:41
2026-11-22 01:36:49
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949363文章数 5099003关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
时尚
旅游
教育
军事航空

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

提升冬日幸福感的8件小事,太治愈了

旅游要闻

读城记|清晰与混沌:砣矶岛海石上的宇宙密码

教育要闻

“这就是富养的下场”,女儿上学十天请假四次,网友们讥讽:后面一直受着就行

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版