网易首页 > 网易号 > 正文 申请入驻

AI最大麻烦不在幻觉,也不在边界:它至今没有一个像样的基础理论

0
分享至



过去两年,关于AI风险的讨论几乎被两个词占据。前一个是"幻觉",后一个是"边界感"。前者说的是模型胡编乱造,后者说的是模型不知道该停在哪里。这两种批评都很有道理,但把它们当作AI最深层的问题,可能都还不够到位。

真正棘手的问题在更底下一层。今天的AI跑得越来越快,能写代码、能改论文、能操盘工作流,甚至能替人下单和调用系统,但这一整套东西背后,其实还没有一个像样的、经得起追问的基础理论。什么叫智能,什么叫意识,一个能生成内容的系统跟一个真正的主体差在哪里,多个智能体之间的关系怎么刻画,智能的演化到底遵不遵循某种动力学,这些问题至今没有公认答案。

幻觉和无边界都是症状,不是病根

先把两个流行说法拆开看。

幻觉这件事,本质上跟生成能力捆在一起。大语言模型的工作方式,就是根据上下文推断出概率最高的下一段内容。它不是数据库检索,它是概率补全。所以它天然具备一种"创造性",能把不完整的信息拼成完整的叙述。这种能力有时候叫幻觉,有时候叫创作,边界模糊得很。学界近两年的共识是,幻觉未必能彻底消除,因为它跟生成本身是一枚硬币的两面。要压低幻觉率,代价往往是牺牲创造性和迁移能力。



边界感的问题更微妙一些。有观察者指出,AI进入现实执行时最危险的不是它答错了,而是它不知道什么时候该停。这个判断触及到了一个更本质的东西:一个系统之所以能守住边界,前提是它得先有"自我"。有自我,才有自我与环境的分界;有分界,才有权限、责任、后果的意识。今天的AI严格来说没有自我,它有的是被训练出来的角色扮演层和对齐层。所谓的边界,是外部规则灌进来的,不是内在结构长出来的。

所以幻觉是生成层的副产物,无边界是主体缺席的副产物。两者的病根,都指向同一个问题:我们不知道AI到底是什么,也不知道智能这件事的底层结构是什么。



工业界正在用工程手段绕过这个理论真空。检索增强生成用来压幻觉,权限沙箱用来兜边界,人在环路用来堵责任缺口,评测榜单用来衡量能力。这些方法有用,但都在修补,不在打地基。ScienceDirect今年发表的AI综述明确指出,尽管AI取得了重大进展,仍然没有一个统一的理论能够解释自然智能和人工智能,涵盖记忆、情感和意识的整合理论仍是未来的关键方向。TimeTrex的2026年AGI观察也承认,学界至今没有一个被普遍接受的关于人类水平智能的技术定义。这不是措辞谨慎,是真的没有。

广义智能体理论试图回答的四个问题

在这样一片理论空白里,全球范围内出现了不少探索性的框架。有从自由能原理出发的,有从预测编码出发的,有从整合信息论出发的,还有从形式数学统一智能的尝试。中国科学家团队近年提出的广义智能体理论,是其中一个把问题摊得比较开的框架。

这个理论把智能体定义为"开放的信息处理系统",从这一条公理出发,推导出四个推论,试图正面回应四个长期悬而未决的问题。



第一个是主体问题。什么才算智能体?温度计算不算?细胞算不算?大语言模型算不算?拉普拉斯妖算不算?该理论提出的"最小完备架构"给了一套统一的坐标:控制、生成、记忆、输出、输入五个不可再拆的功能模块。任何一个开放信息处理系统,无论物理实现是碳基、硅基还是别的什么,都可以在这五个维度里找到自己的位置。这一步的意义在于,它给了不同学科的智能体研究一个共同的度量衡。

第二个是分类问题。给定五维能力空间,怎么把不同的智能体分档?该理论用"零/非零"和"有限/无限"两个自然断点做三值离散化,构造出一张"智能体能力周期表",一共二百四十三种理论构型,划分为阿尔法组、有限组、超限组、欧米伽组四大类。这个思路在科学史上有过先例,门捷列夫的元素周期表就是通过找到关键断点来完成分类的。分类不是目的,而是给后续的比较和演化研究提供地图。

第三个是演化动力问题。智能体的能力状态不是静态的。为什么有的系统会退化,有的会自我增强?该理论引入了阿尔法退化场和欧米伽增强场两个作用力,并定义了"智能质量"作为智能体对场的固有响应特征,试图写出一个类比经典力学的演化方程。这一步争议最大,因为它触及了很多人对"物理化智能"这种做法的本能怀疑。但客观来说,如果没有类似的量化尝试,智能演化就永远停留在文学化描述阶段。

第四个是多智能体关系问题。当两个或更多智能体共处一个环境,它们的感知、通信、交互如何刻画?该理论沿着最小完备架构的功能耦合,构造了一张多智能体关系谱系。这跟当前AI从单体走向多智能体协作的产业趋势直接对应。

这套框架不是唯一的答案,也不必然是最后的答案。它有自己的问题,比如某些命题从"定理证明"降级为"构造性论证"更为合适,比如与自由能原理、整合信息论的接口还需要更多细化。但它至少把问题问对了:不谈架构谈能力,不谈能力谈动力,不谈动力谈关系,AI这门学问就没有真正的地基。

修补技术之外,需要修理论

值得注意的是,产业界目前把绝大部分资源投在了模型规模和工程护栏上,理论层的投入相对稀薄。这不是抱怨,是一个可以理解的分工。大公司要交付产品,学界的理论构建慢,回报周期长,短期看不出商业价值。

但代价也在显现。没有基础理论,我们就没法回答一些最基本的问题:能力提升到什么程度就出现了意识雏形?多智能体系统在什么条件下会发生集体行为的相变?智能体的"自我"到底是模块级属性还是系统级属性?这些问题不是哲学花絮,它们直接决定了监管边界怎么划、安全测试怎么做、能力评估用什么指标。

近两年出现的一些尝试值得关注。除了广义智能体理论,还有基于自由能原理的主动推理框架、马里兰大学团队提出的工业AI统一基础框架、以及一批把控制论、信息论和拓扑表示结合起来的数学化尝试。ResearchGate上流传的"通用人工智能统一理论"论文集试图用信息论和优化理论去桥接生物智能和人工智能。这些工作各自角度不同,也不一定相容,但共同点是承认了同一个前提:AI需要基础理论,而不是只需要更大的模型。

回到最初的话题。幻觉当然要治,边界当然要设,但如果我们只在这两个症状上打转,最终会发现越治越像修一台没有说明书的机器。有说明书的机器,坏了知道哪里出问题;没说明书的机器,越修越像玄学。今天的AI就正走在这条路上。

真正紧迫的,不是造更大的模型,而是把智能这件事的底层结构讲清楚。广义智能体理论是其中一次尝试,未必成功,但方向是对的。谁能率先把这套基础理论建起来,谁就掌握了下一轮AI竞争里最难被复制的东西。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
退休金不需要贪多!每月达到“这个数”,你的晚年比80%人潇洒!

退休金不需要贪多!每月达到“这个数”,你的晚年比80%人潇洒!

CG说科技
2026-07-10 22:55:33
记者:多位前热火球员对阿德巴约是球队核心感到不满

记者:多位前热火球员对阿德巴约是球队核心感到不满

懂球帝
2026-07-11 16:12:34
非必要不做肠镜?医生:只要做过肠镜,患者一定多加关注这4点!

非必要不做肠镜?医生:只要做过肠镜,患者一定多加关注这4点!

芹姐说生活
2026-07-09 23:13:04
张家口一路面深夜塌陷致3车坠落,多位市民牵绳施救,当地通报:被困4人全部救出,1死1轻微伤

张家口一路面深夜塌陷致3车坠落,多位市民牵绳施救,当地通报:被困4人全部救出,1死1轻微伤

极目新闻
2026-07-11 11:56:09
清华丘班退货风波,上海四校招生悬了?

清华丘班退货风波,上海四校招生悬了?

朗威谈星座
2026-07-11 14:15:00
那年,杨超越还是个厂妹,在厂里啃馒头

那年,杨超越还是个厂妹,在厂里啃馒头

微微热评
2026-07-08 23:03:27
四年破冰,王室大和解!查尔斯终于和孙辈阿尔奇莉莉贝特团聚

四年破冰,王室大和解!查尔斯终于和孙辈阿尔奇莉莉贝特团聚

童童聊娱乐啊
2026-07-11 14:54:32
长沙占位事件同小区业主洗白也没用:底裤被扒光,单位要动真格了

长沙占位事件同小区业主洗白也没用:底裤被扒光,单位要动真格了

天天热点见闻
2026-07-10 14:18:14
泽连斯基宣布成立乌军远程打击司令部

泽连斯基宣布成立乌军远程打击司令部

财联社
2026-07-11 02:32:03
四方交易正式达成!森林狼10换4拿下全明星控卫,篮网躺赚全明星

四方交易正式达成!森林狼10换4拿下全明星控卫,篮网躺赚全明星

你的篮球频道
2026-07-11 09:37:00
马特拉齐:没料到齐达内会用头槌撞我,若裁判不掏红绝不起来

马特拉齐:没料到齐达内会用头槌撞我,若裁判不掏红绝不起来

懂球帝
2026-07-11 16:12:33
消失的彭加木:是一场被精心策划的神秘逃亡?在罗布泊到底发生了什么?

消失的彭加木:是一场被精心策划的神秘逃亡?在罗布泊到底发生了什么?

人生录
2026-07-11 17:20:47
注意!上海全市高速限速60km/h,这些地铁线路已限速运行!“巴威”可能提前登陆,地点又变了,为何多变→

注意!上海全市高速限速60km/h,这些地铁线路已限速运行!“巴威”可能提前登陆,地点又变了,为何多变→

新民晚报
2026-07-11 19:26:58
母亲是央视名嘴,父亲是香港富豪,如今21岁在美国知名大学就读

母亲是央视名嘴,父亲是香港富豪,如今21岁在美国知名大学就读

林轻吟
2026-07-11 14:15:01
28死!深扒晋江鞋厂实际控制人赖育萍,是远华中学校友会荣誉会长

28死!深扒晋江鞋厂实际控制人赖育萍,是远华中学校友会荣誉会长

火山詩话
2026-07-10 09:59:29
诺兰跪了,好莱坞这艘大船终于被“政治正确”凿穿了

诺兰跪了,好莱坞这艘大船终于被“政治正确”凿穿了

浪子的烟火人间
2026-07-10 22:14:18
伊朗外交部说伊方已拒绝与美国谈判的请求

伊朗外交部说伊方已拒绝与美国谈判的请求

新华社
2026-07-11 16:48:03
凌晨在北京去世、有8个男朋友?75岁的刘晓庆私生活谣言有多荒唐

凌晨在北京去世、有8个男朋友?75岁的刘晓庆私生活谣言有多荒唐

TVB的四小花
2026-07-11 01:39:21
伊朗挨打了,还没明白他们的最大问题:革命卫队凭什么管阿曼领海

伊朗挨打了,还没明白他们的最大问题:革命卫队凭什么管阿曼领海

小莜读史
2026-07-09 20:27:16
【前瞻】时隔12年再战瑞士 阿根廷呼唤“新迪马利亚”

【前瞻】时隔12年再战瑞士 阿根廷呼唤“新迪马利亚”

体坛周报
2026-07-11 18:16:13
2026-07-11 20:47:00
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
693文章数 8937关注度
往期回顾 全部

科技要闻

苹果起诉OpenAI系统性窃密,挖超400前员工

头条要闻

综艺爆雷导演跑路多位明星讨债 导演曾称欠债3000多万

头条要闻

综艺爆雷导演跑路多位明星讨债 导演曾称欠债3000多万

体育要闻

燃尽的比利时黄金一代,逃不过厄运诅咒

娱乐要闻

周星驰官宣星女郎 纯素人无拍戏经验

财经要闻

一封举报信 引发小红书IPO合规考验

汽车要闻

预售权益价11.78万起 五菱星光L将于7月16日上市

态度原创

教育
旅游
游戏
时尚
艺术

教育要闻

绵阳民办学校摇号结果今日公布,附各校学位确认流程!

旅游要闻

关于忻州云中河温泉旅游度假区足球场7月13日至7月22日暂时关闭公告

《HYPERFIST》Steam免费发布 好评动漫风ACT

回购多年|| 每年这个时候都要用,终于被我蹲到“抄底价”

艺术要闻

鲜艳色彩,波兰画家迈克尔·斯卢萨科维奇油画

无障碍浏览 进入关怀版