对话翁家良博士：人本人工智能才是价值终局

人工智能正以超预期的速度进化，“AI制造AI”已从科幻照进现实。当Anthropic、谷歌等全球顶级实验室集体释放出对技术的深层焦虑，人类站在了技术狂飙、商业利益与全球治理的十字路口。

在这场不可逆的智能海啸中，企业和社会究竟该如何权衡技术进步带来的红利与安全问题？

长期处于AI前沿的资深学者、新加坡AIII人工智能国际研究院院长、WAIC世界人工智能大会国际顾问翁家良博士参与著作的《人本人工智能》深度思考，试图解答这一关系人类前途的问题。

近期，翁家良博士在和我们对话时表示，技术、商业化与治理三大支柱必须动态并行，“人本人工智能”绝非一句公关口号，它是让企业和人类社会更稳、走得更远的商业底层逻辑。

以下是我们和翁家良博士的对话。

Q：翁博士您好，6月5日，Anthropic公开表示其工程师认为Claude的代码质量年内就将全面超越人类，甚至不惜呼吁全行业在某种机制下“减速或暂停”以防失控。作为长期处于AI前沿的科学家和联合国专家，您怎么看这种由顶级实验室主动释放的“技术焦虑”？这是否意味着我们正处于您书中所说的“利润至上将AI引向歧途”的十字路口？

A：Anthropic联合创始人Jack Clark最近也表示，他们发现大模型正在呈现出一些超乎预期的表现，这些情况所带来的复杂后果与潜在风险，已经远非科学家或技术专家所能独立承担。其中一点，就是AI制造AI。

我在书里的第一章就谈到这个事了。ChatGPT等大模型有一项杰出的能力，就是自我学习和自我适应，这使得它们显得越来越“有机”，它们能够随着时间的推移而自我学习和发展，无需明确的编程指令。

人工智能的“有机”特性不仅在于其自我学习能力，也延伸至其自我适应能力。自我适应使得人工智能系统能够在动态环境中茁壮成长，类似于生物体在求生过程中的表现。这种适应性使人工智能系统能够在不同的环境中发挥作用。然而，它也可能导致一些情况，让用户感到惊讶、困惑甚至恐惧。

科学家或工程师，也发觉这个事情有可能发生，越来越多的人开始去提醒大家。

Q：在《人本人工智能》的逻辑框架中，混合人工智能是通往HASI（以人为中心的人工智能）的潜在路径，混合人工智能偏向技术实现手段，而人本人工智能则是价值终局。请您解释下这条发展道路？

A：随着人机关系新纪元的开启，我们面临前所未有的挑战，需重新思考人类与AI之间的互动关系。

在AI制造AI真正发生前，科学家必须投入更多资源以应对可能发生的风险。我认为，混合人工智能是我们通往人工智能终局的桥梁，要将人类的道德、常识等植入AI系统，将人类直觉中最精妙的部分与机器融合，让AI的行为变得可预测、可验证。人类需要就此达成共识，同时利用此共识开发新的AI架构。它将是我们人类可控的一种工具。

目前李飞飞和杨立昆都在开发世界模型，并希望这种能够理解物理世界规律的模型更接近真正的智能结构，但我认为这仍然不够。如果缺乏人类高阶逻辑介入，就无法突破“人本”与“安全对齐”的终极瓶颈。

我们的目标是实现人本人工智能。它不是一种纯粹的技术升级，而是一套将技术、治理、商业化有机结合，以“服务人类福祉、确保人类控制权、推动人机共生”为宗旨的技术治理世界观。

Q：您一直积极倡导将“人本人工智能”作为联合国的第18个可持续发展目标，要让中美欧等不同经济体、不同利益诉求的企业达成这一共识，目前进展如何？

A：过去几年，联合国一直在讨论成立一个专门的人工智能机构，但我认为，仅仅建立一个行政机构可能不是最高效的解法。人工智能治理的关键不在于形式，而在于如何真正落地。我之所以倡导把它列为“第18个可持续发展目标”，是因为联合国此前推出的1至17个可持续发展目标是极其成功的全球框架，得到了广泛支持与坚定推动。

如果能将“人本人工智能”确立为新的全球标准，就能将这一共识辐射到全球80亿人，让大家共同来推动这件事。当然，最终它是否能被官方正式写成“第18个目标”并不是唯一的重点，真正的重点在于通过这个过程将“人本”的理念传播出去。

Q：《人本人工智能》一书中提到了令人不安的深刻AI风险（如深度伪造、黑产）。从政策制定和组织管理的角度来看，我们如何建立一套动态的“刹车机制”？一旦AI的负面效应超过社会承受力，治理结构该如何进行硬着陆？

A：所谓的“刹车机制”，归根结底取决于人类一体化的最终决断。如果透视人工智能的发展，我们会发现它带来的红利与风险是交织在一起的，且风险分为短期已现、中期迫近和长期潜在三个维度。

对此，我们必须回归一个最基本的共识：AI的发展浪潮是不可逆转的。因此，我们的第一步是全面“接受”，并主动开启人机协同的进程。在使用的过程中，我们要清晰地建立起“如何正确使用AI”的社会规范。

随着AI加速进化，我们不仅要用它来理解物理世界，更要用它来反观人类自身、理解AI本身。同时，我们要通过培育更优质的数据，来引导AI的良性演化。

最终的挑战在于，正如人工智能先驱杰弗里·辛顿所担忧的——硅基生物是否会不可逆地替代我们碳基生物？针对这一终极命题，我们必须投入更多的资源去进行底层研究。比如辛顿曾提到过“母爱”这种人类最基础的价值观，我们如何通过算法研发将其导入到AI的底层逻辑中？在不久的未来，当AI的智力全面超越人类时，这种内嵌的“母爱”和人本价值观，或许才是人类社会最稳固的、底层的动态刹车机制。

Q：对于一家具体的金融或科技企业，高管层往往面临业绩压力。在组织管理上，如何避免将“负责任的AI治理”变成PPT上的公关口号，而是落实到首席风险官（CRO）或产品线考核的硬性指标中？

A：我们必须承认，企业的本质就是追求盈利与商业化的成功，但在这个大前提下，企业高管必须算清一笔大账：在未来的竞争中，做不安全的人工智能，企业可能会“死得更快”。

我们可以拿航空业做个类比。如果一家航空公司制造或运营的飞机存在安全隐患，它根本不可能实现长期盈利，一次事故就可能让它面临灭顶之灾。因此，行业要消除认知误区，认为“做治理、做安全就意味着不赚钱”。

我们应该转过头来思考：如何通过做对、做安全AI，来让企业更有竞争力、更赚钱？有些产品可能由于打安全擦边球，在初期赚到了一些快钱，但从长远来看，这在商业上是绝对不可持续的。

另一个商业解法在于，我们如何通过卓越的产品设计，让“人本人工智能”变得比普通人工智能更赚钱。当你提供的AI由于更人性化、更具人文关怀，从而精准切中消费者的深层需求时，用户对你品牌的忠诚度和付费意愿会更高。这非常考验企业掌舵者的战略眼光与领导力。

中国儒家哲学讲“修身、齐家、治国、平天下”。企业家如果想要在商业市场上开疆拓土、成就伟大的事业，其底座依然是“修身”——也就是企业的价值观与底层操守。只有把“人本”的修身逻辑嵌入企业的基因里，商业的根基才能稳固。

Q：现在的人工智能企业和工程师动辄讨论AI何时在各项指标上全面“打平”或“超越”人类。您在书中提出的“人机共生智能”，在技术架构上如何确保AI永远是人类能力的放大器（Supertools），而不是人类的替代品？

A：我们不应该仅仅从纯技术的微观视角去寻找解法，而是必须站在一个更高的维度来看待这个问题。

AI的发展绝对不是一个孤立的技术演进，它是由技术、商业化、治理这三大支柱有机交织在一起的。这三者必须保持高频的“动态并行”。随着技术的不断进化和日益强大，你的商业化手段需要去平衡技术红利对客户、对社会带来的深远影响；与此同时，整个治理与风控体系也必须紧跟技术的步伐，进行实时的、敏捷的动态调整。

这是一个巨大的挑战。最近谷歌DeepMind的联合创始人也公开发表了类似的担忧：当前的AI技术正以非线性的速度狂飙，往往导致你刚制定出一项治理政策，还没等到它真正落地，底层的技术范式就已经完全变了。

因此，要确保AI成为人类的放大器而非替代品，关键不在于某一个特定的技术架构，而在于这三大支柱能否形成一套“小步快跑”的协同机制。只有让治理和商业化跑得和技术一样快，我们才能把狂飙的技术锁在“人机共生”的轨道里。

Q：随着AI进入自动驾驶（L3/L4）和工业机器人等物理实体，技术层面的安全容错率极低。您对软硬件结合的技术安全性有哪些前瞻性构想？

A：自动驾驶等软硬件结合的物理实体，安全确实是“人命关天”。我认为解决这一级别技术安全性的核心前瞻策略，在于“渐进式扩大部署范围”。

在大模型或智能体刚走向物理世界时，由于未知边界太多，任何人都无法预判AI具体会在哪里出错，甚至无法完美调校底层的伦理算法。如果为了抢占市场而不负责任地强行全面部署，必然会导致无辜的公众受到伤害，这是绝对错误的。

我们可以参考航空工业的成熟经验。飞机的安全不是一蹴而就的，而是在长期的、高频次的使用过程中，不断发现漏洞、修补逻辑、沉淀标准，从而把容错率不断提高。自动驾驶从L1一直演进到L4甚至L5，也必须经历这样一个动态演进的生命周期。

因此，我的具体构想是：一方面通过区域性的“沙盒测试”慢慢扩大部署，在可控范围内动态学习和纠错；另一方面，我们要采用“以AI管AI”的技术架构。在软硬件系统内部，用专门的“监督型AI”和多重技术冗余，去实时学习、捕捉并约束那个“负责决策的AI”。针对不同的复杂场景，用不同的技术组合拳来提供安全硬约束。

Q：自动驾驶汽车在面临交通事故时的选择，撞人还是撞墙、保护车主还是保护10个路人，是科技、伦理与商业化交织的终极十字路口，也是人类几百年都没有定论的“电车难题”。当这个难题被写进代码、交给机器时，它就不再是抽象的哲学讨论，而是变成了一行行冷冰冰的概率算法。在您的“人本人工智能”框架下，自动驾驶汽车究竟该如何去解决这个困境？

A：我们通常认为人类是理性的生物，能够做出符合自身价值观的最佳选择。相比之下，人工智能系统则像是一个能够作出难以解释的决策黑箱。它们可能会突然“失控”或“变节”，从而造成伤害。但令人惊讶的是，在面对艰难道德抉择时，人类也往往如同难以捉摸的黑箱。

从理论上讲，为了避免撞到10个行人，自动驾驶汽车应该选择突然转向并撞向墙壁，哪怕这意味着牺牲司机和乘客的生命。然而，事实证明人类总是充满矛盾和自私。大多数人支持尽可能挽救更多生命的原则，但如果你问他们：“如果拯救10个行人意味着自动驾驶汽车会牺牲你的生命，你愿意吗？”他们会毫不犹豫地回答：“不愿意！”他们绝不会购买一辆设定为在必要时牺牲车主以拯救其他生命的汽车。

如果我们连自己在生死攸关的瞬间会做出何种选择都不知道，那我们又怎能把这些重大决定权交给算法呢？

至于这个伦理规则究竟由谁来决定？我觉得会有一个大的框架，但是到了某一个应用场景，它可能会有差异。具体的算法必须允许分布式的、因地制宜地进行重新定制与微调。在这个过程中，无论是政策制定者（旁观者）、研发与运营企业（主宰者）还是用户（乘客），都需要在本地化的博弈中共同参与规则的重塑，而不是依赖某一条全球一刀切的死板代码。

Q：AI大幅提高了金融媒体、法律、编程等行业的生产率，但也直接引发了裁员或岗位转型的阵痛。作为商业组织，在享受AI带来的“降本增效”红利时，应该承担怎样的社会责任？

A：这是一个极其深刻的系统性问题，我们需要将企业分为“新老两个阵营”来辩证看待。

对于全新孵化的初创企业而言，它们天然地在向“一人公司”的敏捷模式演进。这些企业本身没有存量员工的包袱。但对于庞大的存量传统企业来说，这就是一场考验领导力智慧的剧烈转型。它的阵痛不仅在于现有员工的安置，更在于未来大学毕业生等初级岗位的断层。企业必须重新定义和调整岗位。

全球范围内有一个非常成功的案例——宜家。随着AI的应用，他们对传统的呼叫中心进行了大刀阔斧的改革。那些原本只负责接听电话的重复性岗位被淘汰了，但宜家并没有盲目地把员工推向社会，而是通过重新培训，将他们升级为“定制化家居服务专员”。原有的岗位虽然消失了，但员工留了下来，并创造了更高的人文价值。

此外，我必须向所有企业家提出一个警示。当前行业正在逼近一个被称为“智能危机”的深水区。如果所有企业在享受AI红利时，都简单粗暴地通过大裁员来推高自身利润，最终会引发一个恐怖的宏观恶性循环。

我们正在经历从“工业化经济”向“自主化经济”的终极跨越。未来的很多生产性工作都将由机器人和AI接管，整个社会的财富分配和运行逻辑必须重新重构。但我始终坚信，只要不同国家具备优秀的、富有远见的领导力，人类的智慧迟早能找到一条包容性增长的全新治理模式。

Q：在可以预见的未来，人工智能绝对不只是一个工具，而是会全方位重塑人类社会。面对这一不可逆的趋势，人类究竟该如何去自我调适与适应？

A：首先是全面“接受”并主动“适应”，但更核心的在于我们要拥有“引导”技术走向的底气——因为这毕竟是人类亲手发明出来的技术。同样的底层技术，通过不同的设计哲学和开发路径，结出的文明果实是完全不同的。这就要求我们必须在今天，坚定地走“人本人工智能”的研发道路。

我们必须看清一个历史大势：当AI全面渗透到社会的每一个微观场景时，我们的经济模式、地缘政治、教育体系都面临着颠覆性的重新调整。

如果拉长文明的视线，人类在这个星球上存在了大约30万到35万年。从7万年前的认知革命开始，我们先后经历了农业革命、科学革命、工业革命和信息革命，直到今天跨入智能革命的门槛。我认为，智能革命的下一站，必将是“自主化革命（Autonomous Revolution）”。

当机器接管了大部分生产力，自主化革命将逼迫人类推开一扇更高阶的文明大门——去真正弄清人类大脑与主体意识之间的终极关系。这正是我们在这个时间点，必须倾注全人类精英资源去攻克的硬课题，而不是等到技术失控后才去被动应付。适应人工智能的终局，其实是一场人类回归自身的哲学觉醒。我们必须对这些关乎人类命运的本质哲学问题，进行最深度的投入与挖掘。

（文| 春野，图片来源 | 受访者，本内容转载自财经天下WEEKLY）