一财社论：如何监管AI？人类必须迈过一道坎

来源：市场资讯

（来源：第一财经资讯）

面对可能的失控风险，把AI管起来似乎正在成为共识。

伴随着Agent融入各行各业，人们开始思考一个问题，如何搭建有效的AI治理框架，使其实现安全地使用？这在当前的美国是一个现实议题。美东时间10月6日，美国民主党参议员沃伦和布卢门撒尔致信美国财长贝森特、商务部长卢特尼克等官员，要求说明科技巨头是否通过游说影响了政府的AI监管政策。而本周初共和党参议员莫雷诺致信Anthropic CEO阿莫代伊，警告不要对AI采取“危言耸听”的态度。

有关AI监管，在美国已然是一个充满争议的治理议题。人们看到了Anthropic等AI巨头向政府发出强制监管的邀约，同时也看到特朗普政府已决定将AI监管拉回到行业自愿自律框架。

强制监管抑或自愿自律，无论做何种抉择，都需要很大的勇气；同时，这种抉择背后蕴含着不同的认知哲学。

主张强制监管者，深刻表达了人们对AI科技革命带来的未知挑战的极度焦虑，试图通过减速放缓AI科技革命进度，将科技拉回到一个可控的临界区间，传递的是一个科技向善的道德评价指标。

当然，这种道德上的善，如何变成具体行动上的行为之善，在人类科技发展史上带来的更多是一种焦虑综合征。因为对未知科技进行伦理层面的善恶评价，在认知上面临着难以克服的僭越问题，即面对未知的科技发展，人们不可能前置性地为未来科技勾画出真实的风险概率分布结构。

这意味着若在AI领域推动强制监管框架，就必须要通过减缓和压慢科技进步速度等手段，这在认知逻辑上难以自洽，因为这是在为一个现在不存在、未来可能存在的东西定航立标，最终带来的可能不是可控的科技进步，而是可能将科技创新扼杀在摇篮中。

而且，这在强制监管设计上，同样也面临极高的监管协同成本。AI科技革命是一个开放式竞争博弈，需要全球所有参与者遵循同一套强制监管逻辑，这需要一个拥有绝对强制力的全球统一的监管协调组织，否则一旦缺乏真正的强约束监管邀约，任何全球监管协调、共识和声明等，都容易变成空洞的表态。

事实上，最近Anthropic等AI巨头发出的监管邀约，更多是一种基于良知和道德上的风险对冲，而非其真正愿意放慢科技进步的步伐。这实际上也是人们对未知风险本能的一种风险缓释策略，即面对未知风险，邀请更多相关者参与进来，不是旨在进行风险管控，而是找寻合适的风险分担和共担者。

毕竟，AI科技革命中释放出的未知风险，若直接创新者都无法对其可能的风险概率分布特征进行精细量化处置，很难相信一个在信息结构上的间接参与者，一个不直接掌握内部信息的外部监管者，能对AI科技革命的风险了然于胸。

面对AI科技革命带来的充满未知的风险与挑战，AI科技创新等的规范，首先源于洞悉内部信息的个体之善恶是非观和行业性自律，而个体善恶是非观也好，行业性自律也罢，则孕育于清晰的产权结构、责权利明晰的激励约束机制，有效甄别外部性的信息结构和沟通机制等公序良俗的环境之中，责权利扭曲、激励约束机制扭曲等，在AI时代带来的不仅是信托风险和信用风险，更是AI时代经济社会具体运行机制的扭曲。秩序自洽和行为自洽是高度授权的AI时代的立业之基，也是个体善恶是非观和行业性自律能有效发挥矫枉作用的基石。

强化AI时代行业自律，给AI前行者安置的是一个合作共赢、克服自由悖逆的自发的自利博弈机制，个体为自身行为负责，追求自身合法权益不以侵犯他人合法权益为代价，创新发展才能管控好外部性风险，AI科技革命的未知风险才能规范于每个创新者的方寸之间。这种基于市场自发扩张的自利博弈机制，只有能在程序正义、公平公正公开透明的环境下运行，个体的涓涓善意善行才能回流入海，成长为更大的向善向上的增长叙事结构。为此，监管始终要坚定其处理公共外部性的立场和方寸，基于监管技术所能提供的信息结构等框定自身的监管边界。

当前中国在AI技术变革领域，是一个与美国旗鼓相当的战略玩家，作为人工智能领域的G2玩家，中国一方面需与美国共享AI治理领域的通用信息，相互借鉴对方在AI治理领域的成功经验，另一方面中国需要笃定监管是为了更好地推动AI发展的信念，致力于建立健全公共服务体系，营造公开公平公正的市场竞争秩序，同时积极推动基于放手和放权的市场化改革，强化公共外部性治理与放松市场主体的可行可信自由的趋势互动和协同助推效应，用治理思维而非监管思维布局AI发展的未来。

星垂平野阔，月涌大江流。人类的科技革命发展史都是一场场典型的浮士德交易，如何搭建AI治理体系，是人类迈入AI时代的第一道门槛。其中如何引导行业自律，如何划清自律和监管的边界，是AI治理开宗立派的第一课，这方面唯有明晰治理与监管的界限，划清自律与监管的边界，AI治理才能浑然天成。