世界首部AI法规出师不利 金融时报：欧盟如何搞砸了AI监管？

欧盟在AI法规制定上顾此失彼

凤凰网科技讯 北京时间11月20日，《金融时报》周四发文，披露了欧盟制定世界首个AI监管法规过程中遭遇的挫折。ChatGPT的横空出世打了一个欧盟措手不及，令欧盟仓促加入了对大模型的监管。在这期间，欧盟对AI的态度也从监管转变为吸引投资。最终，在公众的反对下，欧盟推迟实施《人工智能法》中的关键部分，暂停对高风险AI的监管。

以下是文章全文：

《人工智能法》的诞生是一场旷日持久、令人抓狂的拉锯战。

2023年12月，欧洲官员们连续奋战36小时，才敲定这个“全球首部”AI立法。“我看到同事们都快撑不住了。”劳拉·卡罗利(Laura Caroli)表示。她作为欧洲议会关键谈判代表的助理参与了谈判，并曾任智库CSIS高级研究员。

这部立法关系重大。如果成功，它意味着欧盟将率先为AI这项有望改变全球经济的技术制定全面规范。“当时承受的国际压力巨大。”卡罗利表示。

最终，在12月9日凌晨约1点，谈判代表们达成协议。随后，时任欧盟内部市场专员蒂埃里·布雷顿(Thierry Breton)脱下背心，换上西装外套。疲惫不堪的议员们打开香槟庆祝，随即奔赴新闻发布会现场。

布雷顿协助商定了《人工智能法》

然而，将近两年过去，布鲁塞尔的气氛已不在那么高涨。

《人工智能法》的设计初衷，是利用欧洲的经济影响力，通过风险分级机制强制企业为其4.5亿消费者打造“可信AI”：禁止最具危害性的应用，严控高风险系统，对低风险领域则宽松监管。

但是，由于法案条文过于复杂、匆忙将类似ChatGPT的AI模型纳入监管范围，以及执行过程杂乱无章，这部AI法已经从欧洲领导力的象征，变成了一个证明“欧洲把监管置于创新之上”的典型案例。

本周三，欧盟委员会推迟了这部里程碑式AI法规中关键部分的实施，这是布鲁塞尔方面首次正式承认其在推行自有立法时遭遇困境。

眼下，欧洲官员与企业界正面临两个拷问：欧盟是否步子迈得太大、太快？面对欧洲经济正艰难追赶地缘政治对手的现状，该如何修正法规以避免错失AI发展浪潮？

对欧洲来说，留在AI全球主导权竞赛中至关重要。由于欧洲未能打造出科技巨头或让企业发展壮大，它与美国的生产力差距不断扩大。在错失其他技术领域领导地位后，欧盟希望将自身打造成“AI大陆”，但该联盟在培养欧洲AI生态系统、加速追赶中美等全球强国技术投资方面仍举步维艰。

欧盟能否成功修补其规则，其产生的影响远超欧洲边界。《人工智能法》是全球首次尝试监管一种不仅可能颠覆全球经济各个行业、且可能失控并带来难以预测后果的技术。若布鲁塞尔过度弱化立法效力，那么问题就会变成：接下来由谁或者说还有没有人能为AI设置护栏？

原本想实现AI繁荣

颇具讽刺意味的是，欧洲推动AI监管的初衷本是为了促进这项新兴技术的繁荣发展。

2019年，乌尔苏拉·冯德莱恩(Ursula von der Leyen)领导的新一届欧盟委员会上任后，将“通过法规培育市场”列为重要执政目标之一。她宣布，将在新委员会上任后的100天内推出全球首部AI法律。

当时，各界普遍担忧公众对AI产品的不信任将导致欧洲技术发展放缓。

在法案磋商期间，来自美国的AI新闻深刻影响了欧洲立法者：面部识别工具导致多起错误逮捕事件，各类信用评分算法引发歧视性结果。为管控这些风险，布鲁塞尔方面决定将传统产品安全法规与基本权利保护相结合，例如禁止大规模监控。

欧盟

卡罗利指出，当时全球已形成“AI需要监管”的共识。就连大型科技公司也持相同立场。2020年，Meta创始人马克·扎克伯格(Mark Zuckerberg)访问布鲁塞尔会见欧盟高级委员时，曾公开呼吁政府制定在线内容新规。

当时，世界上还有多个相互影响的AI治理倡议，包括经合组织和七国集团提出的AI原则，以及特朗普政府第一任期发布的倡导“依美国价值观发展AI”的监管原则行政令。

“我们构建的AI越可信，就越有利于欧洲的AI普及：这本质上就是立法目标，”欧盟委员会《人工智能法》首席起草人加布里埃莱·马齐尼(Gabriele Mazzini)表示。

ChatGPT扰乱进程

然而，当OpenAI的ChatGPT在2022年底横空出世时，本已进入谈判关键期的《人工智能法》被仓促改写，新增针对通用AI模型的规制条款。这类能生成文本、图像或代码并具备多场景应用潜力的大语言模型，在欧盟委员会最初拟定的草案中竟完全未被提及。当时，这些模型基本被视为处于实验阶段。

“该法案本质并非ChatGPT监管法规，其立法初衷本不在此。ChatGPT发布后，整个立法进程陷入了生搬硬套的复杂困境。”数字权益组织Access Now高级政策分析师丹尼尔·洛伊弗(Daniel Leufer)指出。

此外，生命未来研究所在2023年3月发表的一封公开信引起关注，签署者包括埃隆·马斯克(Elon Musk)、苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、著名计算机科学家约书亚·本吉奥(Yoshua Bengio)和斯图尔特·罗素(Stuart Russell)以及作家尤瓦尔·赫拉利(YuvalNoah Harari)。信中呼吁在建立适当保障措施之前，对强大的AI系统开发暂停六个月。

马齐尼表示，这封信“完全扭曲了政治讨论”。立法者不再仅仅关注公司和公共部门如何使用AI工具，而是觉得自己还必须监管AI系统本身的构建方式，并确保法律覆盖最大的模型。

“议会当时已形成完全共识，至少要监管ChatGPT，”卡罗利回忆道，“若离开谈判室时连ChatGPT都未能纳入监管，我们的立法工作将彻底失去意义。”

ChatGPT

马齐尼还指出，“布鲁塞尔弥漫的监管狂热既损害谈判质量，又迫使各方仓促收场”。随着2024年6月欧洲议会选举迫近，谈判代表不愿错失政治窗口期。

马齐尼表示，政治窗口期的逼迫、外部“干扰”以及围绕AI生存威胁的讨论，“共同形成了常识尽失的混乱局面”。

律师事务所Cooley全球网络、数据与隐私业务联合主席帕特里克·范·伊克(Patrick Van Eecke)指出，欧盟委员会在监管过程一开始就犯了“根本性错误”：将AI视为产品而非动态过程。他指出，像电梯这类静态产品需符合安全标准才能上市，但二十年后电梯功能依然如故，而AI却是持续演进的动态过程，“这使得硬性要求无法适用”。

半成品

当《人工智能法》于2024年8月正式生效时，许多人认为其尚不成熟。该法案需要大量配套立法来制定行为准则、指南与标准，以便企业明确合规路径。许多条款仅分阶段生效，且具体时间表存在延迟与不确定性。

为企业提供AI法案咨询的盛德律师事务所律师伊丽莎白·里吉尼(Elisabetta Righini)表示，这种状况让企业无所适从。“即使是大型数字公司，也需要时间来准备遵守新规，”她说，“该法案留下了许多细节，需要通过实施细则和指南来确定。不确定性对企业来说从来都不是好事。”

多家企业表示，即便理清合规路径，新规仍带来巨大的运营负担。他们既要评估自身AI系统风险，又须建立机制满足透明度与问责标准。

律师范·伊克强调，由此产生的合规成本反而在制造不公平的竞争环境，“规模更大、更成熟的企业能轻松达标，这将使它们获得比创业公司更多竞争优势”。

AI创业公司警告称，当前局势正在形成“巨头蓬勃发展，成长型企业与创业公司仅能勉强求生”的局面。

伦敦AI创业公司Synthesia的企业事务主管亚历山德鲁·沃伊卡(Alexandru Voica)表示：“许多成长型企业将永远无法达到中美企业的规模与影响力，因为它们正被重重监管压得喘不过气。”

与此同时，大型企业对该法案同样感到挫败。Meta等科技巨头指出，由于企业担心违反《人工智能法》而推迟或避免推出某些AI功能，欧盟正在自我隔绝于尖端服务之外。

今年7月，空客、法国巴黎银行、奔驰和道达尔能源等大型企业联合敦促欧盟委员会将法案实施时间表推迟两年，以简化规则并给予企业足够的准备时间来执行。

就连法案的设计师马齐尼如今也承认，该法案过于宽泛复杂，“未能提供应有的法律确定性”。

欧盟态度改变

公众的强烈抗议迫使欧盟委员会改变了态度。

AI法案引发的强烈反对恰逢布鲁塞尔改变了政策优先事项。自冯德莱恩去年开始第二个任期以来，提升欧盟竞争力一直是贯穿其关键政策提案的主线。

与此同时，全球对于AI的讨论发生了巨大转变。人们对AI生存风险的恐慌情绪，转变为对这项快速发展技术的全球主导权的争夺。这场争夺如今已演变为中美之间的博弈。

对于去年12月接任欧盟数字和前沿技术专员的亨娜·维尔库宁(Henna Virkkunen)来说，工作重点已经从监管转向创新和吸引投资，以确保欧洲在AI领域不会落后。

维尔库宁

今年2月，布鲁塞尔撤回了原计划确保因AI系统受害的人获得更多保护的规定，即所谓的AI责任指令。此举属于欧盟放松监管的更广泛举措的一部分。

本周，欧盟监管的转向最终演变成为了一项提议，该提议将高风险AI规则(人工智能法的关键部分)的实施至少推迟一年。

此次延期引发争议，仍需获得欧洲议会和欧盟成员国批准。各方对这部旗舰性AI法律的实施存在分歧。欧洲央行前行长马里奥·德拉吉(Mario Draghi)称，为期一年的延期并非无限期中止。

反对声

尽管如此，《人工智能法》的支持者仍将此视为重大挫折。

欧洲绿党议员金·范·斯帕伦塔克(Kim Van Sparrentak)表示，欧盟仍应为其率先制定安全AI法规感到自豪，这将继续构成竞争优势。日本、巴西和加州等司法管辖区已对AI模型实施了类似的透明度规定。

“欧盟委员会应当坚守立场，夜以继日地推进法规成功，”范·斯帕伦塔克强调，“这意味着我们要说到做到，为欧洲企业和民众指明方向，而不是一遇到特朗普和大型科技公司的抱怨就食言。”

在图灵奖得主、被誉为“AI教父”的本吉奥等人士看来，针对《人工智能法》的批评不过是既得利益集团发起的“舆论攻势”。

他认为，《人工智能法》只是将AI实验室已经在执行的安全规程正式化，并提高了透明度。他告诉《金融时报》：“它的作用在于创造一个公平的竞争环境，促使所有企业向行业标杆看齐。”

寻求平衡

但是很显然，欧盟仍需在AI监管与创新之间达成适当的平衡，以实现其双重目标：既使欧洲企业成为全球AI领军者，又为世界其他地区树立法规范本。

欧盟科技主管维尔库宁周三强调，欧盟始终坚持高标准监管，“因为欧盟法规是企业信任的标志。我们是全球唯一以这种方式制定规则来守护价值观与基本权利的地方”。

与此同时，她承认仅靠监管远远不够：“我们必须从规则制定转向创新构建。我们的法规不应成为负担，而应创造附加价值。”

但批评人士指出，周三宣布的法规延期实施只会让局面更趋复杂。

法案设计者马齐尼始终敦促布鲁塞尔对法案进行彻底反思。“现在正是需要展现勇气的时刻，是时候承认‘我们需要全面重新审视这部法案’。我认为这将是最明智的抉择。”他表示。(作者/箫雨)

更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。