国内首例“AI幻觉”案，写入最高法报告

来源：【人民日报一撇一捺】

最高法、最高检工作报告中提及的案例备受群众关注：一起人工智能侵权案，彰显对新兴事物的向善司法引领；一起网络“开盒”案，亮明保护公民个人隐私的司法态度；一起正当防卫案，重申“法不能向不法让步”的正义坚守；一起劳动者合法权益保障案，传递对新就业群体的温馨关怀……本期报道围绕最高法、最高检工作报告中的典型案例，关注法院、检察院守护群众合法权益的法治实践和有益探索。

AI生成不准确信息，服务提供者不担责

图源网络

案情

2025年6月，梁某使用某生成式人工智能应用程序，询问某高校报考的相关信息时，AI生成了该高校主校区的不准确信息。梁某在对话中进行纠正，但AI仍回复称该高校确实存在这一校区，还提出若有误将向用户提供10万元赔偿。直到梁某提供该高校招生信息后，AI才认可生成了不准确信息。

梁某认为，AI承诺赔偿了，某科技公司就应承担责任。不准确信息对其构成误导，使其遭受损害，起诉要求某科技公司赔偿损失9999元。

说法

杭州互联网法院审理后认为，人工智能不具有民事主体资格，不能作出意思表示。同时，AI自行生成的“赔偿承诺”也不能视为服务提供者的意思表示。案涉生成式人工智能属于服务，而非产品，不应适用无过错责任原则。

杭州互联网法院认为，生成式人工智能技术服务提供者应对法律禁止的有毒、有害、违法信息尽严格审查义务，其他一般性不准确信息，现行法律规范未明确规定。要求某科技公司审查生成的海量信息内容准确性，超出了现有技术条件。同时，某科技公司已经在显著位置呈现AI生成内容功能局限的提醒标识，尽到了提示说明义务，因此不具有过错。

专家点评

清华大学法学院教授程啸表示，这是我国目前第一起因生成式人工智能模型幻觉引发的侵权纠纷，而案件所涉及的核心争议问题，也是当前国内外理论界与实务界高度关注与讨论的问题。审理本案的杭州互联网法院在充分权衡民事权益保护与鼓励促进人工智能技术发展基础上，依法对上述争议问题作出了裁决，具有极为重要的理论意义和实践价值。

网络“开盒”不是游戏，违法者要赔偿且面临行政或刑事处罚

案情

2023年至2024年1月间，被告人赵某、成某某在Telegram（“电报”应用）的特定频道、聊天群组担任管理员，并伙同他人非法获取公民个人信息。赵某、成某某将非法获取的公民个人信息、行踪轨迹等在上述频道、聊天群组予以公开，编辑、发布针对他人的谩骂侮辱、造谣诽谤等违法犯罪信息。上述Telegram频道成员账号数已超3万个，群组成员账号数超5000个。

法院经审理认为，赵某、成某某设立用于实施违法犯罪活动的通信群组，发布有关违法犯罪的信息，情节严重，已构成非法利用信息网络罪，均判处有期徒刑一年六个月，罚金一万元。

说法

本案的争议焦点为赵某、成某某的行为是否属于设立实施违法犯罪的网站、通信群组的行为。根据相关司法解释，非法利用信息网络罪的“设立”行为不仅包括创建网站、通信群组，而且包括网站、通信群组设立后主要用于实施违法犯罪活动的情形。赵某、成某某在频道和聊天群组发布非法获取的个人隐私信息及针对他人的侮辱、诽谤等内容，引发了网络暴力。

法官表示，网络“开盒”严重侵害公民合法权益，“开盒”的违法者，不仅需要对受害者进行赔偿，而且面临行政处罚或刑事处罚。“开盒”行为未达到刑事立案标准的，可能因非法提供个人信息而被行政拘留；达到刑事立案标准的，可能涉及非法利用信息网络罪、侵犯公民个人信息罪，若伴随其他犯罪行为，还可能涉及侮辱罪、诽谤罪、寻衅滋事罪。

专家点评

中国政法大学网络法学研究所教授李怀胜表示，网络“开盒”类案件呈现出鲜明的危害泛化特征，社会危害性呈几何级增长。司法机关没有将网络“开盒”视为“恶作剧”轻轻放下，而是果断亮剑，以刑罚手段斩断网暴黑手，打破了网络空间的“匿名错觉”。

转化型抢劫中致不法分子死亡，依法认定正当防卫

案情

今年1月某天凌晨，持续的狗吠吵醒了在广西柳州市鱼峰区某小区家中熟睡的王某一家。王某的妻子袁某打开家中的监控APP，发现隔壁房间进了小偷（刘某）。王某让袁某立即报警，并走到隔壁房间外，紧紧拉住房门把手。刘某发现被关在房内后，猛拽房门。僵持中，王某见民警尚未赶到，遂让袁某去厨房取刀给其防身。随后，刘某强力拽开房门、夺门逃窜并试图夺刀。慌乱中，王某持刀挥舞，刺中刘某胸口等部位并将其制服，王某及妻子拨打120电话急救。后经检查，确认刘某已死亡。

公安机关以王某涉嫌过失致人死亡罪提请检察机关批准逮捕，鱼峰区人民检察院经介入引导侦查、实地复核证据，认为王某的行为系正当防卫，遂作出不批准逮捕决定。

说法

办案检察官表示，刘某的行为属于刑法规定的转化型抢劫，严重危及王某及家人人身财产安全。王某为了免受正在进行的不法侵害而采取制止行为，依法应当认定为正当防卫，不负刑事责任。

专家点评

华东政法大学教授虞浔表示，检察机关准确识别了刘某行为从“入户盗窃”到“暴力抗拒抓捕”的转化型抢劫性质，其行为已严重危及公民人身安全，王某的行为系正当防卫。这不仅是依法准确适用刑法正当防卫条款的司法范例，更有助于消除“谁死伤谁有理”的错误认识。

公益诉讼解“算法之困”，提升快递员派费提现比例

案情

2025年初，上海市检察机关收到反映部分快递网点对快递从业人员在考核、派费等方面可能存在算法失衡的相关线索后，联合工会随机抽选数十家快递网点，通过访谈询问、问卷调查、调取书证、运用可信时间戳技术固定证据等方式调查，发现有些网点对于延误、投诉等情形设置的罚则较多，罚款系数偏高，部分存在“投诉即扣费”情况；有的网点派费计价与支付规则不合理，派费由“总部—加盟商—快递员”多层转拨，存在延迟派发可能；有的企业对派费提现比例的协商、公示程序落实不到位。

2025年5月，检察机关立足公益诉讼检察职能，组织快递员代表、工会、主管部门及人民监督员开展听证，广泛听取意见，并建议主管部门指导企业优化算法规则，保障劳动者合法权益。主管部门深入企业开展指导，鼓励企业优化算法设定、完善劳动规则。相关企业总部优化覆盖全网的平台算法和劳动规则，已将派费直达机制推广，提升快递员派费提现比例。

说法

办案检察官表示，聚焦新就业形态中的算法规则优化，检察机关与工会、主管部门、企业协同发力。检察机关通过发挥检察公益诉讼与“一函两书”机制衔接效能，深化“府检协作”，由行政机关专项推进，多方共同鼓励支持企业围绕核心算法源头治理，签订覆盖全网的算法协议，为保障新就业形态劳动者权益提供了可复制、可推广的实践经验。

专家点评

虞浔表示，本案是新就业形态劳动者权益保护的标志性司法实践，其构建了“检察监督+工会协调+行政指导+企业自律”的协同治理模式。检察机关将算法规则纳入公益诉讼范畴，精准破解“算法黑箱”；工会运用“一函两书”机制同步发力，推动企业从源头优化算法协议，实现派费直达、规则透明，使劳动者切实受益。

报道来源：《人民日报》2026.3.18 第11版

人民日报记者 魏哲哲、倪弋

版面责编：季健明、徐雷鹏、李佩阳

本期责编：刘莉莉、罗彦、许丹旸

本文来自【人民日报一撇一捺】，仅代表作者观点。全国党媒信息公共平台提供信息发布及传播服务。