网易首页 > 网易号 > 正文 申请入驻

回顾Hinton 1977博士论文:这里埋着塑造现代AI的底层思维

0
分享至

提起杰弗里·辛顿,人们脑子里蹦出来的通常是反向传播、玻尔兹曼机、深度信念网络,或者那场彻底改写人工智能格局的深度学习革命。但很少有人会往前追溯,翻看他学术生涯真正的起点。

1977年,距离那篇著名的反向传播论文问世还有将近十年,辛顿在爱丁堡大学完成了博士论文《松弛法及其在视觉中的作用》。光看标题,像是篇讨论计算机视觉和松弛方法的论文——我开始读的时候也这么想。


然而真正翻开之后才发现,这份文献所触及的,远不止一套视觉算法。许多后来定义辛顿研究方向的思想,在这本论文里已经在成形了。当时术语不同,数学工具也更简洁,神经网络甚至还没进入他研究的中心地带,但那种贯穿始终的思考方式已经清晰可见。

接下来要做的不是逐章总结。我想把阅读过程中那些真正跳出来的想法还原出来,看看它们如何在后来的研究中反复出现。有些成为了现代AI的基石,有些尽管早在将近五十年前就被讨论过,至今仍被意外地忽略了。

回看整本论文,让我印象最深的并不是它预言了某个具体算法,而是它早早引入了一整套关于智能、感知和计算的稳定思考框架。这个框架此后几十年都在持续驱动辛顿的研究轨迹。

希望这篇回顾能让更多人去读这本非凡的博士论文——不是把它当成一份历史档案,而是把它看作当代人工智能领域最有影响力的一条研究路径的出发点。

这本1977年完成的博士论文,核心围绕一个中心问题展开:如何让系统在不确定的情况下,对视觉信息做出整体一致的解释。辛顿当时提出用松弛方法来实现这一点——让多种相互竞争的假设并行存在,然后通过彼此约束逐步走向全局最优解。

论文里讨论了一套替不确定性建模的方式。面对多义场景,系统不会仓促地锁定单一答案,而是让多个候选解释同时浮动,等待后续信息来消解冲突。这种对不确定性保持开放的态度,后来几乎渗透进了他所有关于表征学习的工作。

为了验证这些抽象思路,论文里设计了“傀儡程序”和SETTLE系统这些可运行的实现。傀儡程序用来模拟视觉理解过程,将纸面模型推向实际操作层面。松弛算子负责迭代调整各部分的置信度,而图式及存储知识则提供了来自过往经验的约束条件。整个机制走通了一个关键逻辑:局部信息不够时,需要靠整体结构反推。

辛顿在论文中也没有回避这套方法的局限。他明确指出松弛方法在计算开销上的沉重代价,也讨论了当约束关系本身不准确时系统会遇到的困境。这些自我审视并非后来添上的功能,而是当时论证链条中的固有环节。

把这些内容与之后的发展对照来看,许多线索变得异常清晰。对结构化表征的执着,对不确定性推理的关注,对分布式计算的直觉,以及对整体约束胜过局部证据的信念,这些根脉几乎都在1977年种下了。现代AI往前走得再快,回头看看当初那些朴素的构想,仍然会看到一脉相承的连续痕迹。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上千公里只停一站!京广高铁第一王牌列车,到底有多牛?

上千公里只停一站!京广高铁第一王牌列车,到底有多牛?

翱翔先驱者
2026-07-21 11:20:53
“AI 脸 恐怖谷效应”再上热搜!回应来了

“AI 脸 恐怖谷效应”再上热搜!回应来了

极目新闻
2026-07-22 09:02:42
56岁英国新首相夫人亮相唐宁街,剑桥毕业的荷兰高管,给足了贝嫂面子

56岁英国新首相夫人亮相唐宁街,剑桥毕业的荷兰高管,给足了贝嫂面子

译言
2026-07-21 06:28:30
“致命Zara裤”冲上热搜,国外有人穿它摔倒骨折!客服回应:可在购买商品后裁剪裤腿

“致命Zara裤”冲上热搜,国外有人穿它摔倒骨折!客服回应:可在购买商品后裁剪裤腿

鲁中晨报
2026-07-21 15:24:06
奥运冠军黄雅琼现状:在浙江老家生活,老公也是冠军,成大学院长

奥运冠军黄雅琼现状:在浙江老家生活,老公也是冠军,成大学院长

阿鬴体育评论
2026-07-22 11:40:30
84岁高明现状:痛失独子后,在北京定居生活,儿媳一举动让人泪目

84岁高明现状:痛失独子后,在北京定居生活,儿媳一举动让人泪目

白面书誏
2026-07-14 19:13:29
谢贤离世,当时结拜兄妹7人,其他人现状如何?

谢贤离世,当时结拜兄妹7人,其他人现状如何?

爆史君带你读历史
2026-07-21 17:37:02
反转了?684分花3000块咨询放弃央财女生高校疑似曝光!

反转了?684分花3000块咨询放弃央财女生高校疑似曝光!

趣笔谈
2026-07-22 09:50:15
震惊!冉莹颖对邹市明资产重组的路径流出:多名娘家人“发家致富”,网友:一鲸落万物生。世界最强扶娘家魔

震惊!冉莹颖对邹市明资产重组的路径流出:多名娘家人“发家致富”,网友:一鲸落万物生。世界最强扶娘家魔

火山詩话
2026-07-21 06:16:42
没拿过影帝的吴孟达离世时,央视给了高规格悼念,而最老影帝谢贤离世,为何央视迟迟不发悼念

没拿过影帝的吴孟达离世时,央视给了高规格悼念,而最老影帝谢贤离世,为何央视迟迟不发悼念

娱乐故事
2026-07-21 18:30:09
正宁县委县政府深刻检讨

正宁县委县政府深刻检讨

新京报
2026-07-22 11:52:06
6人夺金,3人满分,中国队问鼎!第67届数学奥赛成绩揭晓

6人夺金,3人满分,中国队问鼎!第67届数学奥赛成绩揭晓

史海流年号
2026-07-20 09:11:47
这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

宇宙时空
2026-05-26 18:20:10
世界杯决赛染红成罪人,恩佐沉默一天后发文:有些东西比结果更重要

世界杯决赛染红成罪人,恩佐沉默一天后发文:有些东西比结果更重要

日常碎碎念啊
2026-07-22 00:33:12
耐克将清退中国数千在线经销商,滔搏股价暴跌20%

耐克将清退中国数千在线经销商,滔搏股价暴跌20%

懂球帝
2026-07-22 13:09:29
S妈被要求付50万房租,汪小菲58字回应,确认具俊晔和大S子女争产

S妈被要求付50万房租,汪小菲58字回应,确认具俊晔和大S子女争产

小疯子耶
2026-07-22 11:12:23
阿根廷是怎么打进决赛的?跟西班牙踢得五五开的球队,为何是葡萄牙

阿根廷是怎么打进决赛的?跟西班牙踢得五五开的球队,为何是葡萄牙

体育大学僧
2026-07-21 18:00:24
彻底丢脸!白宫爆出惊天内幕丑闻,特朗普暴怒痛斥:简直是耻辱!

彻底丢脸!白宫爆出惊天内幕丑闻,特朗普暴怒痛斥:简直是耻辱!

做个平凡的轩友
2026-07-21 13:59:06
连会场都进不去!王毅闪现马尼拉,中方特殊安排,日外相慢慢等吧

连会场都进不去!王毅闪现马尼拉,中方特殊安排,日外相慢慢等吧

究竟谁主沉浮
2026-07-22 13:37:53
央视对蔡磊的称呼变了,四字之差释放强烈信号,刘强东的话没说错

央视对蔡磊的称呼变了,四字之差释放强烈信号,刘强东的话没说错

老塕是个手艺人
2026-07-22 11:47:00
2026-07-22 16:59:00
硅屿手记
硅屿手记
有态度网友ytd
358文章数 53关注度
往期回顾 全部

科技要闻

怕了?美财长扬言:严查中国AI

头条要闻

半年被骗近2万 88岁退休教授遭77万条未读信息"包围"

头条要闻

半年被骗近2万 88岁退休教授遭77万条未读信息"包围"

体育要闻

阿根廷的亚军:单核足球的极限?

娱乐要闻

谢贤:人可以风流,但不能下流!

财经要闻

美国想对中国AI动手?"大人,时代变了"

汽车要闻

上汽贾健旭谈汽车全球化:出海要合规 欧洲人只爱小车是误解

态度原创

时尚
房产
亲子
艺术
教育

赫本小白裙,简单纯粹!

房产要闻

冲刺500亿美元IPO,海南又要迎来超级巨头!

亲子要闻

✨闪闪小葵花 成长正当时✨ 「寻找闪亮小主角」才艺展示活动 每一张笑脸、每一个动作,都是孩子们勇敢绽放的最美成长印记~

艺术要闻

冷军34年前画了幅面具,拍了172.5万

教育要闻

32岁小镇做题家vs23岁海淀鸡娃:高考后的幸存人生,谁失望了,谁想通了

无障碍浏览 进入关怀版