房地产增速放缓之后,谁能扛起中国经济增长的大旗?不少人把希望放在人工智能身上,这玩意儿真的做好接棒的准备了?今天我们整理了三位顶级AI研究者的干货对话,全是业内掏心窝子的话。
![]()
三位嘉宾来头都不小,一位是开源模型公司的CTO,一位是曾带队完成ChatGPT核心RLHF工作的新兴AI实验室首席科学家,还有一位是基础模型公司的训练负责人。
主持人抛了个尖锐问题,抛开战争、全面禁止AI这类外部因素,纯从技术角度说,到2036年AI都没有改造世界,也没出现所谓的超级智能,最可能的原因是什么?
第一位嘉宾说,这事最可能应验莫拉维克悖论。大家总觉得AI能做成一件难事,接下来就会强得离谱,比如赢下国际象棋、解出高阶数学题。结果真做成了,影响力也没想象中那么大。
![]()
要是真正的通用智能火花一直点不亮,AI就会变成考试刷题样样行,一到真实世界干货就卡壳,从仿真环境到现实场景的迁移问题,直接就能卡死AI发展的去路。他也补充,这种可能性其实不大,现在已经在强化学习里看到泛化的苗头了。
真要是强化学习泛化难到逆天,持续学习又完全搞不定,才会走到这种停滞的地步。第二位嘉宾也认同这个看法,人类现在比AI模型还是有不少优势的。
每次新模型出来,总能在几个领域追上甚至超过人类,但最后总会在判断力差、不会自我校验这些地方掉链子。这个循环大家其实都见过,新模型刚发出来全网震惊,都喊着AGI来了,用了一个月就会发现,这玩意儿还是笨得离谱。
![]()
这个循环搞不好就一直重复下去,AI能力没法爆发式增长,研发永远被各种瓶颈卡着。哪怕现在AI写的代码比普通程序员多得多,也没真让整个行业生产力翻个上百倍。
第三位嘉宾看问题的角度不一样,他说核心问题在于,现在芯片能实现的全局最优学习器,和当下主流的Transformer加强化学习的配方之间,还差着很远的距离。
大家都畅想,只要AI做AI研究比所有人类研究者都强,哪怕只强0.1%,靠着几十万几百万个AI并行跑,再加上芯片性能不断提升,很快就能冲开所有瓶颈,靠着递归自我改进一路起飞。
![]()
顺着现在的研发路子走,就是自注意力加强化学习,再不断把强化学习的环境规模堆大。他拿摩尔定律打比方,原来摩尔定律维持了很久的漂亮上升直线,其实中途必须经历好几次突变式创新,才能一直维持增长的势头。
大语言模型其实也是一个路数,预训练的缩放定律快到收益递减了,强化学习出来接棒解决问题,又走出一条新的上升曲线,拼起来才是整体一直往上走的样子。
![]()
如果想要再突破,还得再来一次断裂式的创新,现在靠强化学习环境训练大模型的法子,能不能搞出这次创新,还真不好说。要是搞不出来,AI发展就只能沿着平缓的渐进曲线慢慢走,没法实现起飞。
主持人追问,这次断裂创新的难度,会比2012年以来出现过的任何创新都大吗?嘉宾直言,要是我们都能回答这个问题,差不多就已经有能力做出这个创新了。
这里其实要分两种情况,一种是断裂创新就是在现有范式上叠加新东西,还是累积型的,说不定AI自己就能把这些新节点串起来。但反过来问,人类现在离全局最优学习到底有多远?会不会得把梯度下降甚至整个神经网络都推翻重来才行?
![]()
只要下一代架构还在人类最终能发现的范围里,看看2012年到现在取得的进展,顺着势头往下推,走不到能在研发上压过人类的地步,那才奇怪呢。
有人拿国际象棋AI举例子,从上世纪八十年代到现在,国际象棋AI的Elo等级分一直都是近乎线性上涨,结果就在等级分穿过人类水平区间的时候,直接出现了一次大断裂,从原来人类专家逢AI必赢,变成了人类专家逢AI必输。
放到现在看,AI对全球经济的影响确实还不算翻天覆地,但那只是因为AI的“等级分”还在慢慢往上涨,还没跨过人类的区间罢了。要是真到了2036年都没跨过,那才是非常反常的事。
![]()
唯一能拦住这件事的,就是AI发展还没跨过线,就提前进入了平缓的渐进曲线。现在AI离跨过人类水平已经很近了,所以要平缓也只能在这之前平缓,真到2035年一切都平平无奇,最大的原因反而不是技术卡壳,是对AI施行了非常严厉的监管,技术层面出问题的可能性反而更小。
聊到AI研发的目标,有嘉宾说,现在有一类研究目标定得明明白白,上来就可以直接优化目标,走下去肯定能拿到提升。但真正能带来范式转变的,往往是开放式的研究,这种研究连目标都没法明确说清楚,AI现在也不知道该怎么设定这种目标。
![]()
很多人都认同,2012年之后AI的大突破,本质就是大家意识到“预测下一个token”就是个值得好好优化的目标,放在十多年前根本没人想到,这个目标居然能把AI推到现在这个高度。谁知道下一个类似的目标在哪呢,就算找到了,整个发展的外循环也会很慢。
那位曾在OpenAI工作过的嘉宾回忆,OpenAI早期大家都觉得,只靠最小化对数损失根本走不到真正的智能,关键信息在整个损失里占比太小,早就被噪声淹没了。光预测下一个token训练大模型,根本学不到我们想要的有用能力,肯定得设计更好的目标才行。
结果证明,就这么朴素的目标,居然直接成了。现在整个AI领域都非常依赖泛化,你根本没法预测什么时候就能拿到出人意料的泛化能力,最重要的进展,往往就是你根本没抱希望的那种。
![]()
想要让AI实现极速的递归自我改进,最核心的问题就是,AI到底能不能很好地泛化到自己摸索目标这件事上。要形成能自我推进的自动化循环,得AI自己提目标、优化目标、再提新目标,还得整套循环长时间不脱轨,这事真的不容易。
这其实就是莫拉维克悖论的新体现,人类觉得AI自己定目标跑循环很简单,毕竟人类一直都是这么做的,进化早就练会了。但搞不好这件事对AI来说就是最难的坎,就像运动控制对AI很难,数学对人类很难对AI却很简单一样。
聊到人类最后会留下什么工作,有嘉宾说,人类保留最久的角色,就是定义目标,想清楚我们到底想要什么。
![]()
比如AI助手该怎么表现,什么叫“有帮助”,什么叫符合要求,就算AI能做完所有技术工作,最后还是得人类来拿主意。就算把对齐问题拆解开,想清楚正确的目标是什么,这件事短时间内根本不可能消失。
回到现实看,现在AI产业的发展速度,真的已经在肉眼可见改变中国经济的底层结构了。工信部下属研究机构今年8月披露,2025年中国人工智能产业规模已经越过1.2万亿元大关,同比增长四成,增速远超房地产鼎盛时期的十几个百分点。
![]()
截至2026年上半年,国内AI相关企业已经超过六千六百家,北京、广东、上海、浙江、山东这五地就占了八成以上,平均十来个小时就有一家新的AI公司注册。这个速度放在十年前想都不敢想。
今年正式落地的十五五规划里,人工智能被放在非常显眼的位置,明确要和制造、农业、医疗、教育、金融、交通六大领域深度融合,定位就是新质生产力的主引擎。
![]()
和国外走的“AI替代人”路子不同,国内更多是把AI当成增效工具,嵌入到各个生产线和工作流程里,帮人把活干得更好更快。
参考资料:第一财经 顶尖学者对话AI产业新发展
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.