全国首例AI错误侵权之诉警示：使用AI一定要有质疑精神

AI一本正经、信誓旦旦的“胡说八道”，提问者却信以为真，并且按照其提示办事，事后造成的损失，究竟谁应该承担责任。近日，最高法院发布了全国首例生成式AI“幻觉”引发的侵权之诉案例。

案情大概是：

2025年6月，高考生的哥哥梁梁某使用一款AI平台查询高校报考信息。结果，AI生成了该高校主校区的不准确信息。

“你这个骗子！根本没有这个校区。”梁某指出错误后，AI却坚称存在这个校区，并回答“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”

之后，梁某将从该高校官网查询到的招生信息提供给某生成式人工智能应用，此时某生成式人工智能应用承认其生成了不准确信息，并建议梁某到杭州互联网法院起诉索赔。

梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，起诉AI平台的研发公司赔偿9999元。近日，杭州互联网法院作出一审判决，驳回诉讼请求。

法院认为，人工智能不具有民事主体资格，不能作出意思表示。案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者（被告）的意思表示，该“承诺”不产生意思表示的法律效力。

依据《生成式人工智能服务管理暂行办法》属于“服务”范畴，生成式AI结果而非产品质量法意义上的“产品”，应适用《中华人民共和国民法典》第一千一百六十五条第一款的一般过错责任原则，而非产品责任的无过错责任原则。意思是说，只有证明服务提供者对AI生成结果具有“足够的预见和控制能力”的过错，才能要求承担责任。

被告的案涉行为不具有过错，未构成对原告权益的损害，依法不应认定构成侵权。最终，法院驳回了原告的诉讼请求。原、被告均未上诉，判决现已生效。

对此判决，杭州互联网法院跨境贸易法庭庭长肖芄解释为，对生成式人工智能侵权纠纷适用产品责任，缺乏法律依据和法理基础，如果在技术发展初期对其苛以过重的严格责任，可能产生“寒蝉效应”，导致某些创新技术无法落地应用。

清华大学法学院教授程啸则认为，此判决注意到生成式人工智能的自主性特点、目前技术措施下模型“幻觉”尚无法全部消除等客观现实，充分发挥了民法典侵权责任编的风险治理功能，对未来法院审理类似的案件具有极大的参考价值。

法院如此裁判，实则是将AI的识别风险留给了社会大众

随着AI在社会生活的应用越深入，其不仅具有搜索引擎的作用，而且越来越具有独立的思考分析能力，而且是行为指导能力。然而，随着应用的深入，人们也发现，AI给出的结果，很多都是错误的。

例如，本号《AI真的不靠谱：问了两个法律问题，居然这么回答》的一文中，就详细分析了很简单的两个法律现象，AI给出的分析结果，具有明显的错误性。

更令人震惊的是，有法院案例显示，律师提交的AI提供的人民法院案例库的参考案例，经法官查询后发现，居然是假的。法官为此差点司法处罚了律师。律师也看到很冤枉，明明是AI及其研发公司提供的，法院怎么能怪律师呢？

上述的案例中，梁某仅是在查询中，就发现了AI结果的错误，故法院认为，“未构成对原告权益的损害”。试想，如果梁某根据AI提供的保证正确的结果，真的填报了高考志愿，事后发现报考错了，造成的损失，AI的研发公司，是否应该承担责任呢？

我国的《生成式人工智能服务管理暂行办法》由国家互联网信息办公室联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局等七部门于2023年7月10日联合公布，自2023年8月15日起正式施行。

其中第3条规定，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。但是，目前尚未就分类分级监管提出具体规则与判断标准。

此外还规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

如何理清和规制AI给使用者造成的损害，提出了全新的法律和司法挑战

正如以上判决中，法院所提及的，目前的AI产品，并没有明确的法律规定进行规范，判案所依据的，都是一种法理上的分析和归类。

判决所确立的，AI不具有民事主体资格，不能作出意思表示；AI服务提供者负有的不是结果性义务，不能因为生成内容不准确就当然认定服务提供者存在过错；AI服务提供者在应用程序欢迎页、用户协议及交互界面的显著位置呈现AI生成内容功能局限的提醒标识，可以构成免责事由等等，经过最高法院、人民法院报等转载、点评，今后对此类案件应该会起到参照作用。

然而，以上裁判结果，实则是加重了AI使用者的识别责任，却没有体现出《生成式人工智能服务管理暂行办法》对AI开发者的注意义务——严控违法信息、显著提示局限、提升技术准确性，在鼓励创新的同时，守住法律和责任的底线。

AI产品，是人类科技发展的重大进步，但也是未知领域，更是法律上空白。如何在科技发展时，体现出鼓励创新与保障使用者权益的平衡，需要更多的研究和探讨。

对于当下我们这些使用者而言，这个司法案例再次告诫我们，使用人工AI，一定要保持怀疑精神，避免陷入AI“幻觉”；必须知道的是，如果轻信了AI给出的方案和建议，由此造成的损害后果，也是要自己承担的。

注：本文系微信公号“语人集法”同步原创文章