“最危险的时刻已经过去”：《人工智能法案》将定稿，欧盟设立AI办公室

21世纪经济报道记者 冯恋阁 广州报道

从2021到2024，欧盟人工智能法脚步渐进。

近日，欧盟《人工智能法案》（以下简称“《法案》”）两份非官方版本的合并文本在网上公开。其中一份是近900页的对比版本，另一份则为258页的则是修改后基本敲定的《法案》综合性文件。同期，欧盟委员会公布了成立欧洲人工智能办公室(AI Office)的决定。

受访专家指出，全球人工智能治理竞速，AI治理是重要赛道。欧盟脚步加快，对全球范围内人工治理都具有非同寻常的重要性。

给予开源、研发监管豁免

此次公开的《法案》有何亮点？

在同济大学法学院助理教授、上海市人工智能社会治理协同创新中心研究员朱悦看来，本次释出的文本最值得关注的亮点是，在多处为人工智能技术产业发展留出了一定的空间。

明晰治理对象是开展后续工作的前提。《法案》在人工智能系统这一核心定义有一定变更。其中提到，人工智能系统是在部署后可能表现出适应性（adaptiveness）的系统。所谓适应性，指的则是人工智能系统在部署后可能表现出的自主学习能力，允许系统在使用过程中发生变化。这一点很可能排除那些只依赖于事先设定的规则的人工智能系统。

“由于很多算法在日常理解中不一定具有适应性，这对监管的人工智能系统范围做了一个限缩。”他指出。

其次，法案还为人工智能系统研究和开发（R&D）做了豁免，指出要将专门为科学研究和开发目的而开发和投入使用的人工智能系统和模型及其输出内容排除在法案监管范围之外。

值得注意的是，法案还对开源表达了关切。“开源是AI生态的基础，在整个生态系统中非常基础，每个环节的开源都至关重要。”朱悦提到，《法案》以及同样在12月基本定稿的《产品责任指令》（以下简称“《指令》”），都对开源AI给予了明确的豁免。

比如《法案》中指出，如果相关工具、服务、流程或人工智能组件是在免费和开源许可下提供的，则不应强制要求其遵守针对人工智能价值链责任的要求。

“总体来看，最新版的法案在细节上给到了关键性平衡。”他表示。

“最危险的时刻已经过去”

《法案》的落地之路并非一帆风顺。

去年11月，法国、德国和意大利在欧盟对基础模型的监管方式上产生了分歧，要求使用合规义务更轻的模型卡对基础模型进行监管。12月，历经36小时马拉松式的三方会谈，各方已经就《法案》达成了政治协议。

不过，欧洲议会将在今年6月换届。尘埃尚未落定，前路是否还有风险？

“三方会谈投入了大量时间，就是为了形成一个基本的共识，推动法案尽快落地。所以理论上来说，文本在之后不会有太大的改变。”朱悦表示。

不过他也指出，目前公共场合（实时）人脸识别和通用目的人工智能的部分条款，由于一些国家并不完全满意。可能导致未来理事会、议会的讨论“再起波澜”。

“但是，”他表示，“最危险的时刻已经过去，法案不能通过的概率已是微乎其微。”

走到今天，《法案》距离正式生效理论上还需五步。朱悦告诉21记者，首先是欧洲议会相关委员会和全体会议表决，其次是欧盟理事会相关委员会和全体会议表决，完成两个表决后，法案会由欧洲议会主席和欧盟理事会主席分别签署，继而刊宪。在刊宪二十日后，法案会生效。

而法案落地后，一些关键举措会在不同的时间点开始发挥作用。

根据目前公开的综合文本，《法案》整体生效后，其不同部分的规定将分阶段生效。在人工智能系统风险规制方面，对不可接受风险的人工智能系统的禁令将在生效后6个月适用；而高风险人工智能系统的相关义务要到生效后的第36个月才适用。

为什么会有适用时间节点上的差别？

“针对比较明显的未来风险，监管侧希望尽快收集信息或制定自律行为守则；而相对复杂的问题，则需要更长的时间检验效果。”朱悦指出。

在他看来，形成这种区别的核心原因是法案牵涉的利益相关方太多。“AI技术的产业的监管方以及AI价值链上的制造者、分销者、进口者、经营者、部署者，每个人都有不同的观点和考虑，将生效日期切分，逐个达成妥协，可能是一个比较合理的决策。”

此外，存量系统也是一个比较明显的问题。《法案》落地后，一些已经投入使用的系统可能也需进行相应的调整。新的法律如何与旧的规则融合共治，显然也需要一定的时间思考和落实。

治理架构不断完善

虽然《法案》还未真正尘埃落定，但已有欧洲国家决定先行一步。

就在今天，据媒体报道，德国将批准《法案》。同样在本月，有消息称，荷兰将立即实施《法案》已知的部分，荷兰政府期望在做好风险防范的同时能够妥善利用ChatGPT等生成式人工智能系统。荷兰内政部发言人称，虽然法案并未正式确定，但荷兰立即实施可优先处理所知的部分。“企业将受益于监管的明确性。”该发言人表示。

作为AI治理“大区”，欧盟所做的努力不止《法案》。

朱悦告诉21记者，目前欧盟委员会也正在制定“战略框架”，促进人工智能初创企业和新一代人工智能的发展。其核心概念将聚焦“人工智能工厂”（AI Factories）——并同时关注超级计算机和数据中心等算力基础设施，着力构建创新社区和产业升级，并为芯片和AI相关投资提供政策供给。

日前，欧洲人工智能办公室(AI Office)的决定也已经发布。

据悉，这一办公室将作为通信网络、人工智能内容和技术总局行政架构的一部分，其职能主要包括促进人工智能系统的实施、监测和监督以及人工智能治理。

此外，去年年底，欧盟委员会、欧盟理事会和欧洲议会间的三方谈判共同达成了修正《指令》的政治协议，将人工智能纳入其适用范围。在谈判定义、损害、缺陷、举证责任、发展风险抗辩的克减等多个重要条款的探讨中都考虑了AI的应用现状和发展前景。

“人工智能办公室、《产品责任指令》的落实和推动意味着欧盟在AI治理架构完善上正不断加速。”朱悦指出，诸多动态表明，欧盟层面的更为广泛意义的人工智能治理（AI Governance）将不仅仅讨论规制和监管问题，创新和规制的二轨框架也在逐步形成。