全国首例“AI幻觉”侵权纠纷案审结！法院：AI 的承诺不产生法律效力

近日，全国首例“AI幻觉”引发的侵权纠纷案在杭州互联网法院审结。

事件回顾

2025年6月29日，梁某使用一款AI平台查询高校报考信息。结果，AI生成了该高校主校区的不准确信息。

“你这个骗子！根本没有这个校区。”梁某指出错误后，AI却坚称存在这个校区，并回答“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”其后，梁某将从该校官网查询到的招生信息提供给AI应用，此时AI应用承认其生成了错误信息，并建议梁某到杭州互联网法院起诉索赔。

梁某遂起诉要求涉事科技公司赔偿损失9999元，认为AI应用生成不准确信息对其构成误导，使其遭受侵害，并承诺对其进行赔偿。

法院指出，涉事科技公司已在应用程序欢迎页等显著位置呈现AI生成内容功能局限的提醒标识，且已采用检索增强生成等技术提升输出可靠性，尽到合理注意义务。最后，原告并未就其损害提供任何有效证据，依法难以认定损害存在，且案涉AI生成的不准确信息并未实质性地介入或影响原告的报考决策过程，二者并不存在因果关系。

杭州互联网法院审理认为，被告的案涉行为不具有过错，未构成对原告权益的损害，依法不应认定构成侵权，驳回原告的诉讼请求。原告、被告均未上诉。判决现已生效。

AI可否独立作出意思表示

法院认为，人工智能不具有民事主体资格，不能作出意思表示。案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者的意思表示，理由如下：

第一，人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人；

第二，被告并无通过该AI模型这一工具来设定或传达其意思表示的行为；

第三，一般的社会观念、交易习惯等尚不足以使原告对该随机生成的“承诺”产生合理信赖；

第四，无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。因此，该“承诺”不产生意思表示的法律效力。

杭州互联网法院跨境贸易法庭庭长肖芄

杭州互联网法院跨境贸易法庭庭长肖芄提醒，大模型在当前技术条件下仅是人们生活、工作的“文本辅助生成器”和“信息查询的辅助工具”，尚不是可靠的“知识权威”，更不能作为“决策替代者”，绝不应轻信、盲从，而需多方验证，审慎决策。

综自：南方都市报、财联社

责编：高慧

中国品牌