AI生成内容出错谁担责？杭州法院去年审结人工智能案件21件

012025年6月，中国生成式AI用户规模达5.15亿人，普及率36.5%，显示AI快速普及。

02杭州法院审结多起AI案件，直面技术应用的法律挑战，体现司法对新兴技术的关注。

03全国首例AI“幻觉”侵权案中，法院认定服务提供者无过错，驳回原告赔偿请求。

04滨江法院判决AI生成虚假信息构成不正当竞争，强调使用者应尽审核与提示义务。

05杭州出台首份人工智能司法保障意见，明确六类纠纷裁判理念，推动产业健康发展。

以上内容由传播大模型和DeepSeek生成，仅供参考

2025年，被部分网友称为“人工智能发展大年”。

中国互联网络信息中心《生成式人工智能应用发展报告(2025)》显示，截至2025年6月，我国生成式人工智能用户规模达5.15亿人，普及率为36.5%；截至2025年8月底，累计有538款生成式人工智能服务完成备案。

从文案生成，到照片、音乐、视频等领域的拓展；从智能制造到辅助出行……人工智能，正如潮水般涌入每个人的生活，在带来巨大效率提升和便利的同时，也带来了一些新风险。

作为人工智能发展前沿地区，近年来，杭州法院审结多起涉人工智能案件，直面这一技术应用前沿的法律挑战。

如何平衡发展和监管？带着这样的思考，潮新闻·钱江晚报记者来到了杭州市中级人民法院。

审理现场 受访者供图

AI是“工具”，使用者不能做“甩手掌柜”

经常使用生成式大模型的读者，对于“AI幻觉”一定不陌生。受当下的技术局限以及训练数据偏差等影响，大模型生成的内容中会存在错误信息、过时信息等，简而言之就是“AI可能在胡说”。

“AI表示，如果生成内容有误，就赔偿我10万元。”2025年6月，梁某通过某生成式人工智能应用询问时，AI生成了某高校某个校区的不准确信息。

在梁某的纠正和指责后，AI仍坚持意见，并回复上述涉及赔偿的信息。梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求研发公司赔偿9999元。

据悉，在注册使用该生成式人工智能应用前，梁某同意用户协议。在《用户协议》中，对“关于输出的不准确性”进行了规定，提到：本服务提供的所有输出均由人工智能模型答复，不构成该研发公司在法律上的意思表示；其可能出现错误或遗漏，仅供参考，不应将输出结果作为专业建议。

日前，杭州互联网法院审结该案——全国首例因生成式人工智能模型“幻觉”引发的侵权纠纷案，法院认定AI服务提供者已尽合理提示义务，且已采取当前技术条件下行业通行的必要措施以提高内容的准确性，故被告不具有过错，未构成对原告权益的损害，遂驳回了原告梁某的诉讼请求。

无独有偶，前不久滨江法院也审理了一起涉及“AI幻觉”的侵权纠纷案。

被告甲某某为一名自媒体从业者，从事商业推广。2023年12月，其使用某人工智能大模型生成并发布涉案文章，称B公司系A公司的重要子公司。实际上，B公司与A公司无关。

甲某某在发布前未对文章内容进行核实，亦未在文章前端显著标注系人工智能生成，仅在后台标注由某大模型生成。文章发布后获得一定阅读量，后被删除。原告A公司认为该行为构成混淆、虚假宣传等不正当竞争行为。

经审理，法院认为其以引流营利为目的发布该虚假信息，明知内容源于AI，可能存在失实，却未尽到与其能力相符的审核与显著提示义务，其行为违反了诚信原则和商业道德，损害了原告的商业信誉，扰乱了市场竞争秩序，构成《中华人民共和国反不正当竞争法》第二条规定的不正当竞争行为。

据此，法院综合考量原告知名度、被告过错、行为影响及维权成本等因素，酌情判决被告赔偿经济损失并发布声明消除影响。

“生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于‘服务’范畴，而非产品质量法意义上的‘产品’。”杭州市中级人民法院审判委员会专职委员、三级高级法官王江桥介绍，“从政策导向看，对于生成式人工智能服务提供者苛以无过错原则，会不当加重服务提供者责任，限制人工智能产业发展。司法要动态平衡好人工智能技术创新、权利人利益保护与社会公共利益保护之间的关系，既保护权利人利益，又避免过度保护阻碍创新，最终实现人工智能技术创新者‘有利可图’、数据来源者‘有权可分’、公众‘有惠可享’。”

通过这两则案件，虽然审理结果不同，但都深刻地提醒社会公众，应当更加理性地认知AI的功能和局限。作为内容生产的第一责任人，应当仔细审查AI生成的内容，多方印证，避免‘AI幻觉’等错误的出现，造成不必要的损失。同时，应当把‘AI幻觉’等可能存在的服务缺陷以显著方式告知使用者，避免产生商业纠纷。

来源：杭州市中级人民法院工作报告

不做“挡箭牌”，新技术更应向善发展

当然，这也并不意味着，技术中立就能成为人工智能技术研发公司的“挡箭牌”。

2025年9月，杭州中院就对一起涉生成式人工智能服务不正当竞争纠纷案作出二审判决。

该案中，原告甲公司是某社交分享平台的运营者。该平台通过鼓励用户发布真实可靠的“种草”内容，建立起不可替代的社区生态，这也是其核心竞争力所在。

而被告乙、丙公司研发的AI写作工具，专门设置“某平台种草文案”等定向模块，用户无需真实体验，只要输入关键词，即可一键生成仿真文案。

经审理，法院认为，乙、丙公司诱导用户利用其提供的付费服务传播虚构的“种草”文案，导致真实“种草”内容生态被冲击，该行为构成不正当竞争，依法应承担停止侵权、赔偿损失的民事责任。

“人工智能技术本身是中立的，但这并不意味着人工智能技术的应用也是中立的。”王江桥提到，“AI技术的应用应以人为本，谨防以技术中立为由，滥用AI技术实施数据窃取、算法歧视等侵权行为。AI不是法外之地，任何技术应用都不能逾越法律边界。”

近年来，人工智能等新技术蓬勃发展，技术和法律存在“时间差”，也给司法裁判带来诸多挑战。

2025年，杭州法院审结人工智能案件21件，并主动回应产业发展需求，出台《关于以高水平知识产权司法服务保障杭州建设人工智能创新高地的实施意见》。

这是浙江省首份关于人工智能的司法保障意见，围绕“依法治理、智能向善、利益平衡、协同保护”等四项基本原则，共包含16条具体内容，明确涉生成式人工智能著作权认定、利用人工智能技术实施不正当竞争等六类人工智能纠纷的裁判理念。

王江桥表示，人工智能产业的健康发展，离不开社会各界的共同努力，通过法律规范、政策引领、行业自律、企业自治的有机联动，营造政府监管到位、企业依法经营、社会共同监督、司法有力保障的良性治理生态。

责任编辑：黄莺