企业不当使用AI的风险及法律责任

人工智能在法律上从来只是工具，不是责任主体。这一判断，是理解AI法律风险的起点。企业使用AI，无论是自研模型对外提供生成式服务，还是员工用第三方大模型辅助办公，都不能以“内容由AI自动生成”为由，把责任转嫁给技术或平台。实务中常见两种误判：其一，认为生成内容出了问题，平台应当兜底；其二，认为AI仅限内部使用、不对外发布，便没有法律风险。两者都不成立。一旦数据输入、内容输出或内部管理出现瑕疵，民事责任、行政责任、刑事责任可能同时触发，商业声誉与内控合规层面的次生损失更难量化。

一、企业不当使用AI的主要风险类型

（一）数据输入端风险，最常见也最高发

风险从“输入”就开始了。员工把客户身份证、手机号、病历、订单、简历贴进公共AI，等于把这些个人信息交到了陌生服务商手里；未经同意抓取他人肖像、声音去做模型训练、AI换脸、拟声合成，既是违法处理个人信息，也侵害肖像权、声音权、隐私权。

更隐蔽的是商业秘密。合同草稿、核心技术方案、投标文件、内部财务数据一旦上传外网AI，可能被服务商留存、用于训练模型，泄密往往在不知不觉中发生；反过来，企业抓取他人商业秘密训练模型，同样侵权。

还有著作权。未经许可爬取小说、图片、论文训练商业模型，或者让AI生成与在先作品实质性近似的文案、图片对外发布，都构成侵权。国家秘密、敏感政务信息输入AI，踩的是泄密红线。数据出境也要留心：训练或推理数据存在境外、向境外AI服务传输境内数据，不履行出境安全评估和备案，就触了《数据安全法》。

（二）AI输出端风险

AI会编。批量生成虚假软文、编造产品功效、伪造案例，是虚假宣传和不正当竞争；用AI伪造音视频（深度合成）、仿冒他人形象声音做营销，既侵权，不做标识还直接违反深度合成管理规定。

AI会侵权。换脸、模仿声音丑化他人、捏造诽谤内容，侵害名誉权、肖像权、声音权。

算法会歧视。招聘、信贷、风控、定价类AI，基于性别、地域、年龄做差别对待，算法偏见侵害平等权利；大数据杀熟，侵害消费者公平交易权。

AI还会一本正经地胡说。生成法律意见、医疗建议、财务报告出现幻觉错误，企业不审不核直接交付，损失要自己扛。

（三）模型与运营管理风险

模型本身可能被攻击。提示注入、越狱、投毒，能让模型输出违法内容；对外提供生成式AI服务却不做安全评估、备案，本身就违规。

管理缺位更是常见病。没有AI使用审批、没有日志留存、没有分级审核，员工私自用外网AI，企业疏于管理，出了事照样担责。AI产出成果的权属也不清，职务成果、委托成果边界模糊，容易引发纠纷。

（四）商业次生风险

法律风险之外，还有一连串商业后果：品牌声誉受损、客户索赔、监管调查、招投标受限、融资尽调留下负面记录，以及内部员工泄密引发的劳动争议。这些损失不写在判决书里，但企业感受最深。

二、四类法律责任

（一）民事责任

依据是《民法典》《著作权法》《反不正当竞争法》《个人信息保护法》。承担方式包括停止侵害、删除内容、赔礼道歉、消除影响、赔偿损失；虚假宣传、恶意侵犯知识产权、个人信息侵权，符合条件还要承担惩罚性赔偿。

裁判规则很明确：企业不能以“AI自动生成”“模型服务商负责”为由免责。企业明知提示词会生成侵权内容仍使用，就应当担责；法院会综合企业有没有尽到审核、日志留存、风险管控义务，判断过错大小。

（二）行政责任

依据是《生成式人工智能服务管理暂行办法》《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务深度合成管理规定》。处罚手段从警告、通报批评、责令整改，到没收违法所得、高额罚款（《个保法》最高可罚上一年度营业额5%，或5000万元），再到暂停业务、停业整顿、吊销许可；对直接负责的主管人员和其他直接责任人，还要单独罚款。

这里有个关键区分：对外提供生成式AI服务的，必须履行安全评估、备案、内容审核、日志留存等强制义务，不履行就触发处罚；仅内部使用AI工具的，重点管住数据输入和输出内容的合规。

（三）刑事责任

情节严重时，AI会把人送进刑责。常见罪名包括：侵犯公民个人信息罪（用AI大规模收集、买卖、处理个人信息）、侵犯商业秘密罪（用AI窃取、泄露核心商业秘密）、非法获取计算机信息系统数据罪、编造故意传播虚假信息罪和诽谤罪（AI伪造音视频传播谣言）、泄露国家秘密罪；用AI诈骗、假冒注册商标的，按对应罪名定罪。单位犯罪时，企业罚金，法定代表人、高管、直接责任人一并承担刑事责任。

（四）负责人个人责任

这是很多企业忽视的一点。AI违法不是只罚公司。行政罚款、刑事追责都可以穿透到负责人、业务负责人、法务和IT负责人；明知风险却不建管控机制、放任员工违规用AI，会被认定存在过错，个人也要担责。

三、三个高频误区

误区一：AI生成内容，责任由平台承担。错。使用者对自己输入的提示词、主动对外发布的AI生成内容承担主体责任；服务商的责任看协议和平台义务，免不了企业使用端的责任。

误区二：AI只内部用，不对外发布就没风险。错。把客户隐私、商业秘密上传境外AI，本身就构成个人信息和商业秘密风险，泄露即追责。

误区三：签了服务商合同，风险全转给厂商。错。合同只是民事上的内部追偿约定，挡不住行政执法、刑事追责和第三方索赔。

四、风险防控要点

第一，分级管理。区分高、中、低风险场景，高风险场景禁止直接AI输出，强制人工复核。

第二，数据准入。建敏感数据黑名单，涉密、隐私、商业秘密一律禁止上传公共AI。

第三，合同管控。采购第三方AI时，写清数据存储地点、数据使用限制、日志留存、侵权责任划分。

第四，制度加审批。建立员工AI使用审批机制，留存调用日志；深度合成内容必须做AI生成标识。

第五，培训与责任。全员AI合规培训，落实项目负责人第一责任。

第六，应急机制。AI侵权、数据泄露事件，立即启动止损、取证、上报流程。

普通企业总觉得AI合规是大厂的事，跟自己关系不大。恰恰相反，越是缺乏专业法务和IT支撑的中小企业，越容易在“输入什么、输出什么、谁在用、留没留痕”这些日常细节上栽跟头。雷腾律所近期接到的企业咨询里，多数不是模型出了问题，而是员工把客户资料、合同草稿上传公共AI后才意识到风险。

AI监管的确定性已经来了。把上面四块想清楚——风险在哪、责任多重、误区多深、怎么防——比出了事再补救的成本低得多。数据输入、内容输出、模型管理、内部审批这些环节，专业门槛都不低，依赖“技术+法律”的复合经验，普通法务未必覆盖。早一步把防控机制建起来，才是对企业最划算的投入。

北京雷腾律师事务所

咨询热线：010-88829390

法律支持：zixun@linktocn.com

◆ TMT律师——电信、互联网、传媒娱乐及高科技领域专业律师 ◆