刘永谋：技术专家不要瞎忽悠唬外行，社会模拟器不过是高级决策支持系统，而超级对齐主要是效用对齐

*中国人民大学吴玉章 讲席教授刘永谋首发于微信公众号，保留一切知识产权，侵犯必究。

HAI（Human AI）最近成为“AI觉醒”类AI宣传术最新名词。简单地说，它宣称用AI agent模拟人的行为，然后可以在计算机上模拟社会运行，又可称之为社会模拟器。通过这样的模拟，可以发现社会运行规律，从而科学运转社会。

一句话总结：HAI不能说完全没用，用处肯定不如想的那么大，或者就是没多大用处。

我文理工管都学了一点，最后读的是管理科学与工程博士后，专门做决策理论。HAI本质上就是一种决策支持系统（DSS），利用计算机支持决策行为，70、80年代曾经红极一时，后来不好用就渐渐沉寂了。细分来说，HAI属于智能型决策支持系统，处理非结构型决策问题，特点是在DSS中使用机器学习技术，此类系统还有使用专家系统（ES）、主动决策支持技术（ADSS）等的。至于用agent进行模拟决策的想法，在21世纪之交就出现了，这个词在决策理论中也成为一个常见词。

插一句，哲学界很多人专门研究agent与subject有什么差别，可根本不知道这个词起先是个技术名词，具体有所指的，不用望文生义。

从科学方法角度来说，HAI属于模型实验。什么是模型实验？就是用模型模拟原型，在模型上做实验看看咋样，然后假定原型会发生同样的变化。风洞就是一种模型实验：用风洞吹飞机，测试它的空气动力性能，不用让试飞员冒着生命危险上天飞一次。

计算机模型是如今最常见的模型。社会模拟器本质上就是一种计算机模型。

从社会科学哲学的角度看，HAI属于社会实验，最常见的就是政策试点。比如审核制博士招生，人大就是在几个学院试点，哲学院便是其中之一。社会实验与自然实验相比，由于牵涉到人，客观性、可重复性等各个方面可以说存在着本质性差别。社会实验的结果只能做个参考，不能当作物理学一样的定律来预测。

历史上著名的霍桑实验，测试用什么办法可以提高工人效率。后来有人发现不管干啥比如灯光照亮一点，效率都提高，百思不得其解。有工人说，我们听说要搞实验，为此有补贴，都努力干活。

这个例子说明社会实验的局限性。记住：我没有说社会实验完全是扯淡，我的意思是社会实验的价值非常有限。

你想一想：社会实验还是用真人做实验。现在你把真人换成AI agent，作用有多大了？之前我多次说到计算机在模拟人、环境和应然状态的困境，也说过AI agent训练中技术上的问题。

现在你想一想，就算这些都解决，这也不过是一场电子社会实验。你能百分百当真吗？

迷信HAI，吹嘘社会模拟器，从根本上还是AI拟人论作怪：把AI agent当人，把一群AI agent当成社会了。于是，妄想控制住AI agent就可以控制社会。这完全是瞎想！

去仔细钻研一些决策理论、社会科学哲学，你就不会愚蠢到迷信！

超级对齐是最近AI拟人论支配下的另一场愚蠢迷信。超级对齐是对超级AI进行对齐，现在超级AI都没有影子，就要开始对齐了？尤其是价值对齐概念，人有价值观，机器有什么价值观，有什么对齐的？这就是把AI当人，产生了价值对齐的幻想。

在现实中，目前所谓的AI价值对齐主要包括功利主义的效用对齐和道义论道德律令编程两种进路。什么是效用对齐？学过经济学、管理学都知道。它值得是消费者或决策者从商品、服务或行为中获得主观满足程度。它既然是主观的，不同的人、不同的人群对同一件事情、同一个事物的效用评估都不一样，怎么对齐呢？最终能对齐的，就是经济利益如现金流量分析、盈亏决策分析等。这就是当年我做决策理论极其失望的地方。

与效用相关有两个词。一个是偏好，通常描述消费者在不同商品或服务之间的主观选择情绪，是构建消费者行为的核心概念。另一个是期望，值得是对未来结果的概率性预期，主要就是功利主义预期如赚钱还是亏钱。期望指标选择已经牵扯到应然问题，即创造何种未来的问题。

这样的效用对齐能算得上价值对齐吗？本质上，它是功利对齐。

道义论道德律令编程，首先就要对道德律令进行清楚表述。历史上，许多哲学家尝试过，应该说都失败了。道德概念含混不清，比如勇敢，有人说韩信受胯下之辱是大勇。就算界定清楚基本概念，道德概念之间根本没有办法通过演绎法形成欧式几何式的公理系统。只有做到这一点，道德律令编程才能完全走得通。

现在有人用某种价值观如社会主义核心价值来评估大模型，本质上是升级版的内容审核。你硬要说这是AI价值对齐，那就算吧！

最近出现几何化价值对齐的新路径，试图在拓扑学层面实现价值的“景观对齐”或“流形对齐”。听起来非常高大上，实际上是处理不了太精细，干脆来个结构类似。如有人的表述：

我们不应满足于让AI模仿人类在表层产生的无数行为数据，而应致力于揭示并复现那个能够生成所有合乎规范的行为的深层“语法”或“生成文法”。

语言学研究语法，因为有语法。道德现象有语法吗？道德现象是一种语言现象吗？类似想法不能说完全荒谬，但是带有很强的想象色彩。

同样要记住：我没有说AI价值对齐完全扯淡，我的意思是AI价值对齐的作用非常有限。

我的主张是：AI工具化、去道德化、去意识化，这就是我的有限人工智能理论的核心观点。