学术动态｜张凌寒：生成式人工智能呼唤精准分层治理

为促进生成式人工智能技术健康发展和规范应用，国家网信办近日发布了《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》），向社会公开征求意见，引起广泛关注。

与以往分析已有数据的决策式人工智能不同，生成式人工智能可以创造新信息与内容。生成式人工智能走入公众视野的标志性事件是美国人工智能研究实验室OpenAI于2022年11月30日推出ChatGPT，其不仅具备非常惊艳的语言理解、生成、知识推理能力，而且能够实现快速迭代。一时之间，谷歌、阿里、百度等互联网公司纷纷推出自己的生成式人工智能产品，生成式人工智能也以前所未有的态势闯入了社会生活的方方面面。

生成式人工智能虽然表现令人称叹，但带来的风险与法律挑战同样令人担忧。其可能存在知识产权侵权、生成虚假信息等问题，也存在数据安全和隐私保护风险。由于生成式人工智能的发展超出各国监管预期，因此尚未与各国法律中对个人信息处理者、数据处理者与算法服务提供者的相关义务协调衔接。

正是考虑到生成式人工智能给社会治理等方面带来的挑战，近段时间以来，各国政府不约而同做出了相应的立法与监管动作。意大利宣布从3月31日起禁止使用ChatGPT，德国、法国、爱尔兰等国也准备效仿意大利的做法，加强对生成式人工智能的监管。4月11日，美国商务部下属机构也发布“人工智能问责政策”征求意见稿，就是否需要对ChatGPT等人工智能工具监管征求意见。正是在这样的背景下，国家网信办发布《办法》，拟对生成式人工智能进行规范。

此次《办法》对利用生成式人工智能提供服务提出了一系列要求，包括生成式人工智能服务提供者应当进行安全评估，并对生成的内容进行标识；采取技术措施，防止虚假信息生成，防止算法歧视，以及防止侵害他人合法权益。这些要求体现了网信部门对内容安全责任分配的高度关注以及“装好刹车再上路”的监管思路。在当前各类生成式人工智能服务广受关注、千帆竞发之际，这有助于起到凝聚共识和规范指引作用。

需要关注的是，生成式人工智能的功能远不止于提供信息内容服务，其可以作为“技术基座”给金融、医疗、自动驾驶等多个领域赋能。在产业分层中，首先通过海量数据使生成式人工智能底层大模型“见多识广”，具有强大能力；其次通过“术业有专攻”的专业优化训练，让其适配不同行业和场景；最后再向C端用户直接提供服务应用。由此可见，生成式人工智能未来将成为社会的“技术基础设施”。

基础设施是经济社会发展的重要支撑，前期建设需要国家布局规划适度超前发展，后期使用需要强调公共服务的公平性分配，并在此过程中统筹安全与发展。生成式人工智能监管不宜为了服务应用层的信息内容安全，影响其作为基础设施的功能研发，对训练数据、模型开发等施加过多义务。

生成式人工智能应精准治理，依照技术—行业—应用的上下游分为“模型基座—专业模型—服务应用”三层，区分治理理念与监管重点。技术层的模型基座治理应以发展为导向，关注科技伦理、推动公共训练数据池建设、合理分配算力；专业模型层治理应以审慎包容为理念，关注关键领域与场景，注重遵循行业规范，在此领域可引入分级分类治理；服务应用层应关注信息内容安全、市场竞争秩序与用户权益保护，沿用原有评估备案审计等监管工具，并适时引入新型监管工具，细化合规免责制度，给新兴技术发展留下试错空间。

管制和创新，也即安全和发展，是网络立法的永恒命题。从某种意义上讲，不发展是最大的不安全。掌握人工智能治理的话语权、规则制定权，抢先形成新的国家竞争优势，已成为世界各国的努力目标。我国在个人信息保护和数据立法领域与欧盟、美国并行，在算法治理和深度合成治理领域则成为领跑者。在此基础上，应以促进生成式人工智能健康发展为契机，积极构建符合我国实际且能够促进我国人工智能技术产业长远健康发展的治理制度，这样也有助于形成我国的制度竞争优势。

张凌寒，女，吉林大学法学本科、民商法学硕士、民商法学博士，美国康奈尔大学访问学者，北京航空航天大学法学院博士后。现任中国政法大学数据法治研究院教授，博士生导师。中国法学会互联网与信息法学会理事，中国婚姻法学会理事，主要研究方向为民商法、网络与数据法。在《法商研究》《法律科学》《法制与社会发展》等核心期刊发表论文三十余篇，其中多篇被《人大报刊复印资料》《中国社会科学文摘》《高等学校文科学术文摘》全文转载，并被北大法律信息网统计为2018-2021年高被引作者。2014年出版《网络虚拟财产侵权责任研究》，2021年出版专著《权力之治：人工智能时代的算法规制》并获第九届董必武青年法学成果奖等学术著作。主持国家社科基金、教育部、司法部、中国法学会、博士后基金等人文社科项目，参编参译多部专著、教材。
代表性学术成果

(一）专著译著
2021年• 专著·《权力之治：人工智能时代的算法规制》上海人民出版社；
第八届董必武青年法学成果奖获奖作品
2014年• 专著·《网络虚拟财产侵权责任研究》吉林大学出版社
2018年·译著·《美国与亚洲女性主义法学：跨太平洋的对话》中国民主法制出版社出版（主译者）

（二）学术期刊
《平台“穿透式监管”的理据及限度》《法律科学》CLSCI2022年第1期
《社会科学文摘》2022年第3期转载
《算法自动化决策中的女性劳动者权益保障》《妇女研究论丛》CSSCI2022年第2期
《人大报刊复印资料·妇女研究》2022年第3期全文转载
《智慧司法中技术依赖的隐忧与应对》《法制与社会发展》CLSCI2022年第4期
《网络平台监管的算法问责制构建》《东方法学》CLSCI 2021年第3期
《高等学校文科学术文摘》2021年第3期转载
《人大报刊复印资料·宪法与行政法学》2021年第9期全文转载
《算法评估如何在平台问责中发挥作用》《上海政法学院学报（法治论丛）》2021年第3期
《中国社会科学文摘》2021年第11期转载
《数据生产论下的平台数据安全保障义务》《法学论坛》CLSCI 2021年第2期
《个人信息跨境流动制度的三重维度》《中国法律评论》CLSCI 2021年第5期
《共享经济平台用工中的性别不平等及其法律应对》《苏州大学学报（社会科学版）》CSSCI 2021年第1期
《<个人信息保护法（草案）>中的平台算法问责制》《经贸法律评论》2021年第1期
《算法自动化决策与行政正当程序制度的冲突与调和》《东方法学》CLSCI 2020年第6期
《社会科学文摘》2021年第3期转载
《商业自动化决策算法解释权的制度定位与实现路径》《苏州大学学报（社会科学版）》CSSCI 2020年第2期
《商标恶意注册行为规制中的诚实信用原则适用》《法律适用》中文核心2020年第6期
《自动化决策与人的主体性》《人大法律评论》CSSCI集刊 2020年第二辑总第32期
《算法在域外司法实践中的应用、困境及启示》《中国审判》2020年第4期
《<民法典>背景下无人机的个人隐私侵害及法律规制》《西北工业大学学报（社会科学版）》2020年第3期
《算法权力的兴起、异化及法律规制》《法商研究》CLSCI 2019年第4期
《人大报刊复印资料·法学文摘》2019年12月转载
《搜索引擎自动补足的算法损害及其规制》《华东政法大学学报》CLSCI 2019年第6期
《人大报刊复印资料·民商法学》2020年03月全文转载
《算法规制的迭代与革新》《法学论坛》CLSCI 2019年第2期
《网络法的理论与视野》《地方立法研究》2019年第4期
《商业自动化决策的算法解释权研究》《法律科学》CLSCI 2018年第3期
《人大报刊复印资料·民商法学》2018年10月全文转载
《风险防范下算法监管路径研究》《交大法学》CSSCI扩2018年第4期
《人大报刊复印资料·宪法与行政法学》2019年01月全文转载
《人大报刊复印资料·法学文摘》2019年第2期转载
《<电子商务法>中的算法责任及其完善》《北京航空航天大学学报（哲学社会科学版）》2018年第6期
《人大报刊复印资料·民商法学》2019年第4期索引
《互联网新闻治理中社交媒体的平台责任》《网络法治蓝皮书》 中国社会科学院2018年出版

中国政法大学科技成果转化基地
值班电话 : 010-65260781
值班手机 : 13910513112
电子邮箱 : CUPL1952@yeah.net