AI狂飙应有“度”

来源：滚动播报

（来源：上观新闻）

作者：张悦

摄影：赵仲弈

近期，AI数字分身、“人格蒸馏”等概念在互联网上引起广泛讨论。所谓人格蒸馏，就是把一个人的思维方式、语言风格、决策逻辑和行为习惯，用AI提炼浓缩出来，封装成一个可运行的AI技能包，使其能以这个人的口吻和逻辑继续说话、做事。

“AI技术的飞速演进，正不断超越已有法律的边界。”上海市十六届人大常委会委员、法制委副主任委员、华东政法大学教授、市科协法咨委主任叶青在近期举办的“科创无界 法治有度”主题沙龙暨5·30全国科技工作者日上海市科协法咨委专题活动上，一针见血地指出，这些看似是技术应用的争议，实则是法律的核心命题。

当个人的知识经验可以被汲取和复刻，原创价值如何认定？这些技术用于训练，劳动者的合法权益又当如何保障？本次主题沙龙上，来自法律界、科技界、产业界等各个领域的专家学者齐聚一堂，共同为人工智能深刻变革中科技工作者的现实权益与新型权益保障问题提出真知灼见。市科协党组书记、副主席韩志强，市科协党组成员、副主席石谦出席沙龙活动。

法律专家现场答疑：

AI无法消解人的法律主体地

当前，人工智能正高速发展，影响广泛的同时，也带来巨大的潜在风险，“人格蒸馏”、AI“创作”著作权等争议，正是其中的突出体现。在叶青看来，“法律要回应的不仅仅是某一项技术的合规使用，更是在技术变革中明确科技工作者的人格权益、知识产权与劳动权益的边界，确保这些权益不因技术可复制性而受到侵害。”

在沙龙现场，法律界的专业人士针对AI领域技术专家提出的法律困惑，一一给出解答。

AI“创作”的内容是否可能涉及到侵权，应该如何处理？华东政法大学教授、博士生导师、校学术委员会副主任委员王迁聚焦人工智能生成内容的知识产权侵权责任，从专业视角，探讨了贴合实际应用场景的侵权判定思路，“人工智能不可能无缘无故生成和他人作品相似的内容，之所以相似，是用了他人的作品进行训练。”他指出，用作品训练人工智能，绝大多数情况没有经过作者许可和付费，如果输出了高度近似的内容又不承担责任的话，是不公平的，应当以不再让人工智能重复生成相同侵权内容的方式停止侵权。

上海市律协知产委主任、市科协法咨委委员刘峰则从个体如何保护自身著作权的角度，给出了具体的建议：“个人创作的时候应尽量完整保存创作过程，以便于未来可能的维权。”目前，在《上海科技报》柯律师信箱栏目，也有很多案例可以供有困惑的科技工作者借鉴。对于基于AI技术的生成平台，他提出，也应该建立相应的权属规则，便于使用者保护自身权益。

针对当下“同事.skill”等涉及“人格蒸馏”的议题，上海知识产权法院知识产权综合审判一庭庭长凌崧认为，人工智能技术虽能模拟人格表征，但不应动摇人之为人的法律主体地位，也不能逾越法律划定的边界。当前，AI技术的运用对传统人格权保护带来的冲击，本质上是技术中立与人格权完整、自主性之间的冲突。面对技术变革带来的法律挑战，他认为，虚拟数字人产业快速发展，人格权、知识产权、平台责任交织的新型侵权纠纷频发，司法审理存在权益界定、侵权认定、损失量化三大难点。关于当下不少公司制作员工AI数字分身这一热点话题，凌崧指出，由于员工本人的智力成果属于职务作品，还是个人作品，并不能一概而论，因此即便制作员工数字分身的训练数据来自该员工本人，也可能面临权属争议。

“以技助安”与“以制助创”应携手并行

在沙龙上，AGI（通用人工智能）被反复提及，“人工智能近期已发生两个巨大的突破点：自主与递归。”上海科技大学教育、创新和可持续发展研究中心主任杨燕青谈道，我们正站在AGI的临界点上。作为院士专家工作站代表，上海交通大学人工智能学院院长王延峰进一步指出，AGI的出现，意味着AI正在超越传统的工具定位，开始重塑数字世界与物理世界的交互方式。

AI技术创新所带来的风险正在逼近，除了法律的约束，是否也能从技术自身出发，为AI添上一个屏障？作为院士专家工作站代表，派欧云计算（上海）有限公司董事孔杰从技术视角拓宽了讨论维度，Agent（智能体）沙箱的模式可以实现每个智能体独立完成相关任务，通过最小权限和预置留存实现相关的问题可追踪、风险可回溯、操作可管控。“我们希望既能‘以技助安’，也要‘以制促创’，健全算法备案、安全评估、伦理审查全链条制度，实现技术创新和权益保障协同并进。”孔杰谈道。

事实上，在AI行业内部，“以制促创”的实践也正在发生。2025年12月，商汤科技作为牵头单位，主导完成了我国虚拟数字人领域首项国家标准——《信息技术客服型虚拟数字人通用技术要求》（GB/T 46483-2025）的起草与制定工作。商汤科技如影数字人项目总监廖虎认为，这也意味着团队走进了这一行业的标准制定“无人区”。当前，数字人已广泛应用于新闻播报、主播带货等具有高强度、长时间、重复性的工作中，“人与AI协同办公的趋势不可逆。”廖虎表示，顺应发展趋势需要把握安全、可信的前提，商汤将继续以技术防伪、内容可追溯等能力筑牢行业安全底线，与相关单位一同推动可信数字人行业的发展。

在沙龙上，小红书公共事务总经理袁世东也介绍了“小红书AI治理主张”，包括欢迎创作者用AI释放灵感，鼓励主动标识AI内容，严守真实底线与安全红线，坚决反对AI造假与侵权，持续建设AI内容识别与治理能力。

架起对话桥梁，

守住人文关怀的“温度”

“同事.skill”成为互联网热点话题的背后，隐藏着当代“打工人”的现实焦虑。

“过去一个人的价值，可能体现在他会不会解决问题、有没有经验，但现在，这些经验和判断一旦被系统沉淀下来，变成组织可以反复调用的能力资产。这个时候，人的贡献边界在哪里？”作为园企科协代表，中国联通上海市分公司人工智能实验室负责人刘泽雷谈到，据他观察，经验壁垒较高的岗位，反而对AI协同与知识沉淀的配合度不一定高，“如果AI转型过程中只强调效率提升，没有同步建立权益保障机制，大家可能会担心：自己不是在被AI赋能，而是在帮助AI复制和替代自己。”

对于行业来说，尽管AI技术的高速发展提升了工作效率，但也为人才培养埋下危机。在上海华诚知识产权代理有限公司总经理肖华看来，基于经验传承的“传帮带”，是人才培养的基本行为，也是各个行业得以立足与发展的根本，不能因为AI的出现就此颠覆，“薪火相传的关键在于人才接续。效率可以交给AI，但质量的浅深、行业的传承，还是需要人来做。越是AI进化的时代，越要回到以人为本的视角。”

当AI越来越强大时，真正需要被保护的不仅是数据和算法，更是创造这些数据和算法的人。这句观点在现场被反复提及，应该如何保护科技工作者，让他们在创新过程中持续获得尊重保障和回报？王延峰分享了来自上海交大的高校实践，目前，交大以“AI未来基金”保障科研人员原创权益、以“30-30计划”推动合规科研、以工研院构建高效转化通道，形成了“人才汇聚—科研突破—成果转化—反哺学科”的闭环生态，为科技工作者的技术创新提供制度性“护航”。

在沙龙的最后，不少专家都谈到了法律行业在AI冲击下如何变革与发展。上海公证协会秘书长、市科协法咨委委员丁闻用“溶解”与“重构”来表述AI之于法律行业的影响，“在公证行业，我们需要重新思考AI时代哪些证据固定下来具有保护知识产权的功能，并利用好AI带来的便捷性红利。”而在法律服务方面，这一变化也正在发生。“AI正高速发展、影响广泛，从法律服务的角度，我们可能有一些迟缓、脚步有一些慢。”市科协法咨委委员顾跃进建议，建立一个让法律工作者与科技工作者、相关技术单位深度沟通的长期对话机制，让频次提升、思考加速，进一步做好与AI时代相匹配的法律服务工作。

“法治的终极使命不是为科技或者技术划定边界后就止步不前，而是要确保技术始终服务于人的全面发展。”叶青在总结发言时讲到，回应人工智能深刻变革中科技工作者的现实权益与新型权益保障问题，正是举办这一主题沙龙的意义所在，“当技术前沿与法律边界相遇的时候，最需要的是一座可以让我们双方携手，可以平等地坐下来进行思想冲撞对话的桥梁。”

据悉，作为市科协履行服务职能的重要平台，法咨委长期以来汇聚法律行业专业力量，积极回应科技工作者关切，以科技工作者喜闻乐见的形式开展各类普法宣传工作，并为科技工作者提供一键直达的专属公益法律服务。

供稿：上海市科普教育展示技术中心（上海市国际科技交流中心）

审核：市科协组织人事部（老干部工作部）