北京
近日，最高人民法院官微披露全国首例生成式AI"幻觉"引发侵权之诉的判决结果。
2025年3月，用户梁某注册使用某科技公司基于自研大语言模型开发的生成式AI应用。同年6月29日，梁某询问某高校报考信息时，该AI生成了关于该校校区的不准确内容。
发现错误后，梁某在对话中进行纠正，但AI仍坚持错误信息，并生成"若内容有误赔偿10万元"的解决方案。随后梁某提供官网正确信息，AI承认错误并建议其向杭州互联网法院起诉索赔。
梁某据此起诉，要求科技公司赔偿9999元。科技公司辩称，AI生成内容不构成意思表示，公司已尽注意义务且无过错，原告亦无实际损失。
法院认为，人工智能不具有民事主体资格，不能作出意思表示。涉案AI自行生成的"赔偿承诺"不能视为服务提供者的意思表示，理由包括：AI不能作为意思表示传达人或代理人；被告无通过AI设定意思表示的行为；社会观念不足以使原告对随机生成承诺产生合理信赖；无证据表明被告愿受AI生成内容约束。
法院同时明确，服务提供者责任需类型化区分：对违法信息须尽严格审查义务；虽无法保证"零幻觉"，但须以醒目方式提示风险并采取合理技术防错。
本案中，研发公司已完成大模型备案与安全评估，采取当前技术条件下必要措施保障准确性，并履行提示说明义务，故认定平台无过错，不构成侵权。
最终法院驳回原告诉请，双方均未上诉，判决已生效。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
