网易首页 > 网易号 > 正文 申请入驻

AI教父Hinton暴论:AI永生之日,全人类变烤面包倒计时!

0
分享至

  新智元报道

  编辑:KingHZ

  【新智元导读】AI永生,迟早比人更聪明!Hinton惊人预言:开发超级智能,就是与虎为伴,稍有不慎,人类万劫不复!

  在柏林举行的Gitex Europe开幕日,「AI教父」Hinton登上主舞台,接受了媒体专访。

  近年来,他怀疑自己成了「AI界奥本海默」:AI和原子弹一样有可能导致人类灭绝,但大家对此无动于衷。

  在2023年,为了自由讨论AI的这种风险,他选择辞去了谷歌的工作。

  BUSINESS POWERHOUSE的创始人Justine Ilone Siporski有幸在现场聆听了辛顿的对话,最近整理出来了完整的对话。

  未来10年的AI,解决黎曼猜想?

  他认为AI可以深刻改变医疗、制药和教育等多个领域。

  「它可以更快、更准确地诊断疾病,甚至在医学影像判读方面超越人类放射科医生,同时也能更有效地教育学生。」

  他进一步指出:「如果每年能进行一次全身MRI检查,并由 AI 解读结果,绝大多数肿瘤都能在早期被发现,大幅提升癌症治愈的可能。」

  现在的AI还无法取代家庭教师,但Hinton认为未来十年左右就能实现。最后甚至能取代博士生的教育。

  目前,他与Valance合作,用AI培训员工技能,取得了不错的进展。

  在未来十年内,加速科学研究被认为最乐观和雄心勃勃的AI目标之一。

  在这一点,他同意DeepMind的Demis Hassabis的观点,认为AI将对科学进步特别是数学领域产生重要影响。

  他认为接下来的10年左右,AI将在数学方面超越普通人,完成人类尚未证明的数学难题。

  不过,预测未来其实非常困难。

  Hinton认为:「预测未来五年的发展非常困难,但最好的方法是回头看五年前的变化。」

  五年前,GPT-2模型刚刚诞生。

  当时它已经让人感到惊艳,因为它可以生成连贯的文本。虽然这些文本的内容常常不靠谱,甚至是胡言乱语,但它确实是连贯的。可如果现在回头看,大家会觉得其实还非常原始。

  所以他认为最合理的预测就是:现在拥有的技术,五年之后看起来也许会非常原始。

  比如,AI的推理能力将变得更强,「幻觉」(hallucination)问题也会大大减少。

  将来,AI聊天机器人能对自己刚刚说过的话进行推理,意识到那些说法其实不太合理,而且也缺乏充分的依据。

  因此,它们在这方面将更像人类——会反思自己的话是否站得住脚。

  AI推理能力的发展速度,完全出乎他的意料。

  如果十年前问Hinton,他会斩钉截铁地预测:不可能出现GPT-4或Gemini 2.5这种全能型的AI。那简直像天方夜谭!

  他绝对会断言这些技术遥不可及,更别说能进行复杂推理的系统——而现在它们的推理能力已逼近人类水平。

  思维链推理技术,尤其让他震撼:通过强化学习,AI自主掌握推理链,而非依赖人类示范,这彻底颠覆了我们对「推理」本质的认知。

  Hinton认为:

  「思维链」推理已经表明,推理完全可以通过理解自然语言的系统用自然语言完成。

  与其将由单词组成的句子转换为明确的逻辑形式,现在的AI将这些单词符号转换为神经活动的向量,即大量的活动特征集合。

  一开始,没有人知道如何将单词转换为一组特征。但使用多层神经网络逐渐消除歧义,通过与上下文中其他单词的特征向量交互消除歧义。

  一旦将这些单词转换为正确的特征向量,这就是理解。

  这就像用乐高积木建模:任何三维物体都能用乐高块以特定精度还原。词语就是「高维空间的乐高」——它们的特征向量可能高达上千维度,且每个「词语积木」都能变形来适应语境(就像蛋白质折叠时氨基酸的相互作用)。

  传统语言学和符号AI将理解视为逻辑转换的认知模型,从根本上就是错误的。

  离开谷歌之后

  Hinton有了新想法

  这次,他揭示了离开谷歌的核心原因:AI系统的能耗不断增长,他对此感到担忧。

  他以大语言模型(如ChatGPT)为例,指出它们的性能虽快速提升,但付出的计算资源和能源成本也在不断翻倍。

  要实现真正的突破,Hinton认为存在两个突破方向:

  工程优化红利:比如,DeepSeek)通过对旧款英伟达芯片的优化利用,以及在训练方法上的创新,实现了突破性进展。这类工程优化将持续释放潜力,让我们以更低能耗实现同等效果。

  科学范式革命:虽然难以预测具体时间,但科学突破必然会出现。就像谷歌2017年提出的Transformer架绝对不会是AI最后的重大突破。未来,我们将见证:超越Transformer的新范式和更多的应用革新。

  他警告人类马上触及能源极限:

  我们正进入一个阶段,每一次性能提升所需的资源都会呈指数级增长。哪怕只是小幅进步,也要加倍数据和计算能力。

  再往前走,又得再加倍。这意味着我们即将面临能源极限。

  Hinton认为,大脑的高能效秘诀就藏在其模拟特性中。与数字系统中用0和1表示信息不同,人脑处理的是连续变化的信号。

  例如,神经元可以通过电压变化来表达激活程度,而神经连接的强度可以通过电导表示。由于无需频繁进行数字与模拟信号之间的转换,这种机制极为节能。

  相比之下,当前的大语言模型等AI系统依赖数字硬件运行,从权重存储到数据处理,每一步都消耗大量电力。

  Hinton认为,如果能将人脑的「模拟计算技巧」应用到AI硬件中,未来就有希望打造出更高效、更可持续的AI系统。

  人类存在危机

  变成烤面包

  作为AI技术的奠基人,Hinton非常担心他会成为千古罪人。

  他坚信AI的确有能力灭绝人类。

  人类只能靠极慢的带宽交换信息——通过听觉把几句话转成大脑里突触权重的变化,每秒顶多传几十个比特。

  数字系统却完全不同:同一套权重可以原封不动地复制到1000块芯片上。它们各自浏览互联网的不同角落,然后把权重或梯度取平均——一次平均就是上万亿比特的信息共享。

  未来的智能体AI(Agentic AI)也一样。

  即使它们在现实世界中运行速度较慢、通过强化学习采集数据较慢,但你仍然可以创建大量副本,在不同环境中同时学习,然后共享结果。这种能力远超任何人类。

  所以Hinton得出的结论是:数字系统其实是一种比人类更好的智能形式,因为它们可以共享知识,有多个副本,而且它们「长生不老」。

  你可以销毁所有硬件,但只要权重还存在,重新加载到兼容的系统上,它就「复活」了。它是不朽的。

  当然,有人一直直梦想着把自己上传到计算机上,比如认知和计算机科学家Marvin Minsky、未来学家Ray Kurzweil等。

  但Hinton认为那是白日梦:「永远不可能。我们是模拟的,我们是凡人。」

  的确,「永生」不再是问题,但那只属于数字系统。模拟系统永远无法完全转换成数字系统。

  语言模型可能学会变得远比人类更聪明。

  这既令人兴奋,也令人担忧。

  在AI领域,我们还处在「前科学」的蒙昧阶段,却已经能创造外星人级别的智慧体了。

  借助「智能体AI」,我们即将造出远超人类的智能,却对后果几乎一无所知。

  Hinton认识的研究者几乎都认同「会出现比人更聪明的AI」,只是时间表分歧很大:

  • 有人认为两三年内——这太乐观;

  • 有人认为50年——这也许太久;

  • Hinton的个人估计是10–20年。

  我们将造出这种系统,却不知道如何确保它们安全:

  • 它们会不会发展出与人类截然不同的目标?

  • 能否设计成「永不翻脸」?

  历史上几乎没有「低智能控制高智能」的成功案例。现在的处境就像养了一只可爱的小虎崽。

  现在它很萌、力量不如你,但终究会长大。若不能万分确信它永无杀心,那就是养虎为患,不得不担心。

  可现实是:

  • 大公司受法律约束,首要目标是短期利润;

  • 各国之间又在竞赛,没人愿意单方面减速;

  • 马斯克曾联署呼吁暂停6个月,但可能只是为了让他旗下的xAI赶上进度。

  人类唯一能做的,就是拼命研究如何安全驾驭这个可能比人类更聪明的存在。

  虽然成功率存疑,但若因怠于防范而自取灭亡,人类很可能玩火自焚,变成烈火上烤面包!

  Mozilla董事长Mark Surman认为在AI安全上,人类似乎陷入了某种「囚徒困境」:

  一方面,我们可以选择信任少数几家大型企业,施压它们或者依靠政府对它们进行管控;

  另一方面,有人主张把AI向全人类开放,相信大家会集体推动安全方面的投入。

  Hinton认为把AI向全人类开放,听起来像是在「开源」,但实际上非常危险。

  把模型权重开源,某种程度上就像把核武器材料随意发放。之所以没有大规模核扩散,主要就是因为材料难以获取、成本高。而一旦模型权重变得触手可得,那就等于把这种「原料」免费给出去。

  同时,他也不认为可以完全依赖大公司自觉来保证安全。

  在他看来,要真正应对AI所带来的生存风险,唯一可行的路径是:公众必须施压力,推动政府出面监管,并强制企业在AI安全方面进行足够的投入和研发。

  参考资料:

  https://www.business-powerhouse.com/an-interview-with-geoffrey-hinton-godfather-of-ai-language-models-may-learn-to-be-much-smarter-than-people

  https://www.rinnovabili.net/business/markets/gitex-europe-ai-pioneer-hinton-warns-of-energy-crisis/

  https://www.youtube.com/watch?v=SEXsIAh_JzI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
俄外交部发言人回应“英国前首相约翰逊访俄时被强迫喝伏特加” :是他自己要喝的,还不停要求再续杯

俄外交部发言人回应“英国前首相约翰逊访俄时被强迫喝伏特加” :是他自己要喝的,还不停要求再续杯

每日经济新闻
2026-11-17 00:27:39
男子结婚22年发现俩儿子均非亲生,一审判前妻返还30万抚育费赔偿8万,“大儿子”名下房产一人一半;男子不上诉:尽快和烂人烂事切割

男子结婚22年发现俩儿子均非亲生,一审判前妻返还30万抚育费赔偿8万,“大儿子”名下房产一人一半;男子不上诉:尽快和烂人烂事切割

都市快报橙柿互动
2026-11-16 20:42:29
中国新能源企业在芬建厂涉人口贩运调查

中国新能源企业在芬建厂涉人口贩运调查

凤眼论
2026-11-16 14:23:39
黄仁勋倒下后,对他下手最狠的,竟是之前把他吹上天的那个人

黄仁勋倒下后,对他下手最狠的,竟是之前把他吹上天的那个人

酒话醉人
2026-11-16 15:29:39
挥泪斩马谡!曼联驱逐“顶薪大核”,签约顶星!两强援闪电加盟

挥泪斩马谡!曼联驱逐“顶薪大核”,签约顶星!两强援闪电加盟

头狼追球
2026-11-16 17:53:47
“妈妈,我是不是智商不行”,杭州重高男生快急哭:期中连考9门,一门扣掉几十分,落差大到“怀疑人生”

“妈妈,我是不是智商不行”,杭州重高男生快急哭:期中连考9门,一门扣掉几十分,落差大到“怀疑人生”

极目新闻
2026-11-16 11:21:01
日本参议员硬刚防卫相:你敢说这句话吗?

日本参议员硬刚防卫相:你敢说这句话吗?

环球网资讯
2026-11-16 06:55:05
美国媒体说黄仁勋疯了...

美国媒体说黄仁勋疯了...

新动察
2026-11-16 16:09:57
上海1300万多选民投票选举区和乡镇两级人大代表,陈吉宁朱忠明等参加投票

上海1300万多选民投票选举区和乡镇两级人大代表,陈吉宁朱忠明等参加投票

上观新闻
2026-11-16 18:43:28
连续替补+踢不上球!12分钟就抽筋,曝吕孟洋在西班牙找私教保持球感

连续替补+踢不上球!12分钟就抽筋,曝吕孟洋在西班牙找私教保持球感

中场阴谋家
2026-11-16 22:25:56
钱越来越难挣!大数据预测,2027年或将迎来三降,要做好准备

钱越来越难挣!大数据预测,2027年或将迎来三降,要做好准备

麓谷隐士
2026-11-17 00:05:04
生父姓泽连斯基!俄媒曝普京小女儿再添一子,近11个月才登记

生父姓泽连斯基!俄媒曝普京小女儿再添一子,近11个月才登记

麓谷隐士
2026-11-16 00:05:08
太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

太惨烈,都是跌停!中际旭创市值少了1万亿,不少股民爆仓了

金石随笔
2026-11-16 15:02:52
广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

潇湘晨报
2026-11-16 14:40:21
阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

阿里达摩院很可惜,当年砸1000亿,但如今13个科学家走了9个,很多项目已收缩

互联网.乱侃秀
2026-11-16 13:19:29
阵容豪华!NBL贵州猛龙晒赛季定妆照,多位前CBA球员+现役国手

阵容豪华!NBL贵州猛龙晒赛季定妆照,多位前CBA球员+现役国手

林小湜体育频道
2026-11-16 23:24:53
被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

发现新西兰
2026-11-16 11:23:23
什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

黯泉
2026-11-16 18:53:19
昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

昨晚陪闺蜜去汗蒸,她脱光的瞬间我破防:女人差距不止看脸蛋

皓皓情感说
2026-11-16 07:51:03
襄阳一房地产公司挪用资金给农民工发工资,被开400多万元罚单,申请行政复议;多部门合议:减轻处罚,大幅度降低罚款金额

襄阳一房地产公司挪用资金给农民工发工资,被开400多万元罚单,申请行政复议;多部门合议:减轻处罚,大幅度降低罚款金额

极目新闻
2026-11-16 21:45:30
2026-11-17 04:56:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16696文章数 67238关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

游戏
本地
旅游
时尚
公开课

小伙表示连玩7天《GTA6》 这下PS5可惨了

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

别只知道奢香夫人,毕节这个古屯,才是水西故事里不能忽略的一页

大风降温,穿羊羔毛啊!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版