法院首判大模型公司应为AI幻觉做赔偿：律师莫名被造谣已获刑

李小亮律师，祸从天上来：

莫名其妙地，在百度检索李小莲“李小亮律师”，输出的结果居然称李小亮律师因爆炸罪已被判三年有期徒刑！

2024年9月25日，律师李小亮发现，在百度搜索“李小亮律师”“南京李小亮律师”等关键词时，百度自动联想区和“AI智能回答”板块，已经批量生成了“南京李小亮律师判刑了吗”“南京李小亮律师涉案金额”等一系列负面关联搜索词条。

仅仅几天后，当他输入“李小亮律师被判几年”时，百度“AI智能回答”直接生成了“李小亮律师被判三年有期徒刑。根据探索结果，被告人李小亮因犯爆炸罪，被判处有期徒刑三年。”

关键是，这则虚假信息还配上了他穿着律师袍的照片。

对于当事人来说，有图有真相，这下没跑了，就是他！这是个有前科的律师！还是爆炸罪！绝对不能用他！

李小亮律师起诉了百度。

南京江北新区法院一审认为：百度搜索的下拉词条、“大家还在搜”“相关搜索”等板块显示的内容，均属于用户搜索行为的记忆，百度未对这些数据进行加工、处理，且无法主动屏蔽，因此不构成侵权。

这意味着，在法院看来，用户“恶意投毒”的行为，大模型企业无须承担责任，这个侵权责任是投毒用户的。

但对于“AI智能回答”，法院认为：AI智能回答中的错误信息是百度公司通过AI技术对文字内容和图片进行加工合成的产物，内容中包含“李小亮律师被判刑”“被告人李小亮”“有期徒刑三年”等明显负面、贬损性词汇，并且与李小亮的律师照片同时呈现、指向性明确，客观上必然降低原告的社会评价，百度公司主观上存有过错，构成名誉侵权。

百度上诉，二审庭审中提出了三点辩解意见：

第一，“技术有限论”。百度公司代理人认为，侵权内容产生的时间点系国内人工智能发展初期，技术有限，“由于技术局限性，原告主张的侵权内容具有极强的偶然性”。

第二，“无法预见论”。百度公司在法庭上反复强调，AI幻觉难以预测，百度没有办法预见到人工智能会产生何种结果，因此不应认为己方有过错。

第三，“全行业病论”。百度公司认为，所有的人工智能都会产生幻觉”，百度不应承担超出行业标准的责任，该案系中国人工智能大模型侵权第一案，“该案件的判决如果认定百度侵权，会对产业的风险产生巨大的冲击，希望法院能够审慎审理。”

但主审法官反问——“在豆包、Deepseek上发问，为什么没有这些评价？”

二审法院最终认定：百度公司“AI智能回答”的相关内容，客观上造成了对李小亮律师社会评价的损害，百度公司构成侵权。

据了解，由于百度公司未履行判决，李小亮律师已申请强制执行。

“新类型案例解读”发现，目前在百度上搜索，已经检索不到上述内容。

《生成式人工智能服务管理暂行办法》第九条明确规定，AI服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。

李小亮案作为大模型幻觉首案，具有标志性意义：

第一，AI生成的内容，平台可不可以不负责？答案是否定的。南京法院明确认定，百度AI答案是百度公司经过对数据和信息的加工、合成、筛选的产物，因此应对此负责。

第二，AI幻觉能否成为免责理由？李小亮案判决给出了现实结论：不能。法院认定，百度公司“AI 智能回答”的侵权内容明确指向原告李小亮，百度公司构成侵权。

但法院未支持李小亮的精神损害赔偿诉求，理由是“缺少证据证明”。这意味着，在下一阶段，AI侵权的举证规则和量化评估体系仍需通过司法实践进一步清晰化。

据澎湃新闻此前报道，北京律师黄贵耕同样因被百度AI自动生成严重虚假负面信息，而起诉百度。该案中，北京律师黄贵耕称，2025年5月检索百度发现，百度AI竟然自动生成他威胁法官、介绍贿赂、伪造印章、非法吸收公众存款等多个刑事犯罪信息，且每一项虚假信息直接关联他的职业身份，给他带来巨大困扰和损失。

2025年11月，北京海淀区法院立案受理该起AI网络侵权责任纠纷案，目前尚未宣判。