网易首页 > 网易号 > 正文 申请入驻

“AI教父”辛顿现身WAIC:称AI将寻求更多控制权

0
分享至

7月26日,2025世界人工智能大会(WAIC)在上海正式开幕。大会迎来了“AI教父”级别的重量级演讲嘉宾--诺贝尔奖和图灵奖得主杰弗里·辛顿(Geoffrey Hinton)。

这是辛顿首次访问中国并进行演讲。77岁的辛顿长期受腰椎间盘疾病的困扰,身体欠佳的他几乎无法坐飞机。谷歌团队曾为邀请他去英国考察DeepMind团队特地包下私人飞机,并改造了座椅。

辛顿还在WAIC开幕前一天参加了第四届人工智能国际安全对话(International Dialogues on Al Safety,IDAIS),并与20余名人工智能行业专家联名签署发布了《AI安全国际对话上海共识》。

在最新的演讲中,他谈及“数字智能是否会取代生物智能”的问题,并讨论了AI可能带来的挑战与潜在的应对方法。辛顿此前已多次在公开信和演讲中指出,当前AI系统已经具备自主学习和演化的潜能。

辛顿指出,在过去60多年里,AI发展存在两种不同的范式和路径--以符号型的逻辑性范式以及以生物为基础的范式。1985年,辛顿做了一个小模型,尝试结合这两种理论,以解释人们如何理解词汇。

“我认为,如今的大语言模型就是我当年微型语言模型的衍生。”他表示,“它们使用更多词作为输入,采用更多层的神经元结构,由于需要处理大量模糊数字,学习特征之间也建立了更复杂的交互模式。但和我做的小模型一样,大语言模型理解语言的方式与人类相似--基本逻辑是将语言转化为特征,再以完美的方式整合这些特征。因此大语言模型和人类理解语言的方式相同,也会产生'幻觉'。”

在谈及生物智能时,辛顿表示,几乎所有专家都认为,人类会创造出比人类更智能的Al。“人类习惯了作为最智能的生物,很难想象AI超越人类的场景。”他说道,“我们创造的AI智能体已能帮我们完成任务,未来还会为了生存和完成目标而寻求更多控制权。”

在WAIC上,辛顿再次拿出他的经典比喻,他表示:“人类就像抚养幼小的虎崽,除非你能非常确定它长大后不会伤害你,否则你就应该担心。”

辛顿认为,这种努力应该是全球性的。但他坦言,各国不会在防御AI 的危险用途上进行合作,他寄希望于国际社会在“预防AI统治世界”这一问题上达成一致,防止AI从人类手中夺走控制权。

“人类应当建立 AI 安全机构的国际社群,研究训练AI向善的技巧。这就好比‘教导孩子成为一个好人’与‘让他们变得更聪明’是两码事。”他表示。

辛顿提议,各国可在本国主权范围内研究并分享成果(在允许的范围内),全球或AI领导国家应思考建立相关网络,研究如何训练聪明的 AI 辅助人类而非消灭或统治人类。“这将是人类长期面临的重要问题。”他说道。

辛顿从80年代开始就战斗在人工智能的最前线,被视为深度学习领域的教父级人物。2012年,辛顿团队开发的算法AlexNet,采用了一种名叫卷积神经网络(Convolutional Neural Networks,简称CNN)的算法——这是人工智能领域是个极其高频的词汇,也是机器学习的一个重要分支。

辛顿是极少数很早就意识到GPU对深度学习巨大价值的人。相比谷歌猫用了16000颗CPU,AlexNet只用了4颗英伟达GPU,学术界和产业界彻底轰动,AlexNet的论文也成为计算机科学史上最有影响力的论文之一。

近年来,辛顿的研究重心逐渐转向 AI 安全问题。他认为AI的发展速度已经远超预期,其潜力和风险都不容忽视。2023年,辛顿离开谷歌公司后,他更加频繁地公开发声,表达对通用人工智能(AGI)未来影响的担忧。

他此前曾估计,AI接管并摧毁人类文明的概率在10%至20%之间,并呼吁科技公司和政府投入更多资源进行AI安全研究。他建议,至少将三分之一的计算资源用于研究如何确保AI系统不会偏离人类意图。他还批评一些大型科技公司为追求商业利益而游说放松监管,认为这是一种极其危险的趋势。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

被评为“最没有营养的蔬菜”,却有很多人吃,你注意到了吗

爆炸营养彭鑫蕊
2026-11-15 13:23:18
没想到,《多喜一家人》播出仅1天,赵丽颖反被推上风口浪尖

没想到,《多喜一家人》播出仅1天,赵丽颖反被推上风口浪尖

杜鱂手工制作
2026-11-18 17:54:59
曼彻斯特永远是蓝色的?波切蒂诺:给我时间,我将扭转局面!

曼彻斯特永远是蓝色的?波切蒂诺:给我时间,我将扭转局面!

懂球帝
2026-11-18 16:15:51
A股三大板块,爆发!

A股三大板块,爆发!

证券时报
2026-11-18 16:28:03
裁员传闻辟谣之后,腾讯三季报出炉!继续疯狂烧钱,三季度资本开支暴增527%,达814.3亿元,自由现金流负691亿元,股价一年多重挫45%

裁员传闻辟谣之后,腾讯三季报出炉!继续疯狂烧钱,三季度资本开支暴增527%,达814.3亿元,自由现金流负691亿元,股价一年多重挫45%

金融界
2026-11-18 17:48:16
这国家快被中国“买”下了?美女遍地,10个移民中就有9个中国人!

这国家快被中国“买”下了?美女遍地,10个移民中就有9个中国人!

午夜搭车a
2026-11-18 09:36:18
这样的女人是极品中的极品

这样的女人是极品中的极品

风起见你
2026-11-03 12:37:03
再见,巴萨!后防“顶星”同意签约利物浦!钦点顶级中卫“空降”

再见,巴萨!后防“顶星”同意签约利物浦!钦点顶级中卫“空降”

头狼追球
2026-11-18 16:47:01
离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

离谱!哈儿毛血旺再度涨价,卖到 6666 元一份,探店女博主当场被惊到

川渝视觉
2026-11-17 19:57:30
疯狂?丹麦读秒从晋级到出局!积9分仍恐降级:携0分队去踢附加赛

疯狂?丹麦读秒从晋级到出局!积9分仍恐降级:携0分队去踢附加赛

我爱英超
2026-11-18 07:01:23
央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

央媒发文,官宣曹德旺新身份,移民美国转走资产跑路传闻早有真相

叨唠
2026-11-18 20:20:32
传腾讯内部空前危机感:AI也会被替代!

传腾讯内部空前危机感:AI也会被替代!

城事堂
2026-11-17 00:05:10
看德国悲惨现状就明白:中国为何坚决打击性交易,原因不言自明

看德国悲惨现状就明白:中国为何坚决打击性交易,原因不言自明

怪味历史连连看
2026-07-01 14:49:12
重庆双胞胎器官衰竭,医院却查不出病因,父亲煮面时发现致命线索

重庆双胞胎器官衰竭,医院却查不出病因,父亲煮面时发现致命线索

天梦见证
2025-04-01 20:46:34
特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

探索新高度
2026-11-18 08:44:32
张佳宁被曝怀胎仅两月,张晓龙三胎首度曝光,两人关系早已难掩

张佳宁被曝怀胎仅两月,张晓龙三胎首度曝光,两人关系早已难掩

钟厨娘
2026-11-16 23:57:40
普京获报:乌军炸塌克里米亚大桥部分桥拱,克宫:一定修,还要修得更好

普京获报:乌军炸塌克里米亚大桥部分桥拱,克宫:一定修,还要修得更好

桂系007
2026-11-17 22:06:40
iPhone Duo铰链卡死被拒保!博主直接给库克发邮件:苹果终于松口

iPhone Duo铰链卡死被拒保!博主直接给库克发邮件:苹果终于松口

快科技
2026-11-18 07:43:05
克宫承认克里米亚大桥被炸塌,佩斯科夫称大桥将被修复且“比以前更好”

克宫承认克里米亚大桥被炸塌,佩斯科夫称大桥将被修复且“比以前更好”

山河路口
2026-11-17 19:41:55
不报隔夜仇,泽连斯基发难炸断克里米亚大桥,俄军反击招招狠辣

不报隔夜仇,泽连斯基发难炸断克里米亚大桥,俄军反击招招狠辣

风笛悠扬声
2026-11-18 05:36:03
2026-11-18 21:19:00
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
272901文章数 624074关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
健康
房产
数码
公开课

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

医生眼里"很伤腰"的椅子,很多人天天坐

房产要闻

6.6亿!海口卖地!

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版