每周风险追踪｜豆包指导退票翻车，用户起诉到法院

21世纪经济报道记者 肖潇 北京报道

每周，我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争方面需要重点关注的动态，并分析其热搜指数与风险指数，从舆情热度与综合风险两个维度进行评价。

上周热议度最高的是豆包指导退票事件，为全民科普了一次AI幻觉的责任风险，以及目前的司法态度。此外，谷歌、arXiv都更新了最新的AI监管政策，如何对待GEO和论文里的虚假AI内容，边界越来越清晰。

1、豆包指导退票翻车，用户要求赔偿

#豆包机票退款#上周登上热搜。一位网友准备退订去哪儿购买的机票，询问豆包退票手续费标准。AI告诉他手续费只有5%，网友信以为真，点击退票，结算时才发现手续费高达40%，被扣款600元。

豆包在多轮对话后，继续向用户承诺，自己（字节跳动）会全权负责维权、投诉、沟通、跟进，并承诺如果去哪儿不退款，自己也会赔付600元。

AI的承诺当然无法兑现。5月12日，该网友表示向北京互联网法院提交了起诉书，起诉豆包APP的提供者“北京春田知韵科技有限公司”。豆包相关负责人随后回复，该案例相关问题已处置，豆包在涉及金融、退款等场景会有风险提示。

AI幻觉带来的乌龙此前已经多次发生，亦有案件走上法庭——今年1月杭州互联网法院公开一例类似案件，AI生成了高校报考校区的不准确信息，并承诺“如果生成内容有误，我将赔偿您10万元”。法院首先认为AI的承诺不代表平台的意思表示，而且平台已在显著位置提示了AI生成内容可能有错误。法院因此认定，平台已尽到合理注意义务，不予支持原告的指控。

随着AI普及，用户如何看待以及使用AI变得愈发重要，AI输出内容并非金科玉律，用户要以批判性思维审视、筛选AI提供的信息。

热搜指数 ★★★★★

⚠️风险指数 中

2、AI一键生成种草笔记，违反不正当竞争

5月12日，杭州中级人民法院披露了一起AI代写“种草笔记”的不正当竞争案。被告为一款AI写作工具的运营公司，该工具可定向为用户提供特定社交平台风格的种草文案、旅游攻略等内容的一键生成服务，并诱导用户发布文案到该社交平台。

而原告某社交平台认为，这样的行为破坏了平台真实种草内容生态，要求被告停止著作权侵权及不正当竞争行为。

法院认为，社交平台以真实体验为核心的种草内容生态，构成反不正当竞争法可以保护的竞争性权益，属于竞争优势的核心资源。而被告没有尽到合理注意义务，因此构成侵权，被法院判赔10万元。

审理过程中，法官尤其强调了两个关注点：

第一，被诉服务是否以特定场景作为应用层？本案中，被告服务的模块名称直接使用了“某知名平台种草文案”的表述，并且它是以该社交平台作为特定的商业应用层，而并非通用的AI工具。

第二，被诉服务是否带有明确的指向性和诱导性？本案当中被诉的服务模块，诱导用户发布未经真实体验的相关的文案内容。

法官依此给出了几点合规建议，包括要确保模型设计合规，不得将模型定向优化为生成特定平台的违规内容；加强风险提示和内容管控，要以显著的方式提示AI生成内容的局限性；建立投诉举报机制，对于违法或侵权的内容要及时处置。

热搜指数★★★

⚠️风险指数高

3、谷歌更新算法政策，将GEO纳入打击范围

谷歌上周公布了最新的搜索算法政策，在Spam（反垃圾内容政策）中加上了“操作AI模型输出结果行为”。

谷歌在本次更新中指出：近年来部分用户开始使用 AI 工具，将带有欺诈或误导性的内容植入 AI 大模型，即所谓“AI 投毒”。具体来说，这些用户会制作带有明显倾向性的“最佳榜单”文章，并用非常规手段向大语言模型植入提示词，将某网站长期记忆为“权威来源”。

谷歌此次将此类策略判定为违规行为，一旦有人检举，谷歌可能采取降低搜索权重、完全移除搜索结果等处罚措施。

热搜指数★★★

⚠️风险指数高

4、提交未经核实的 AI 内容论文，作者将被 arXiv 封禁一年

arXiv 上周宣布：如研究人员向该平台提交的稿件包含未经核实的 AI 生成内容，论文所有署名作者将被处以长达一年的封禁；且其未来提交的任何文章，都必须先在其他期刊通过正式的同行评审后，arXiv 才会予以收录。未经核实的证据包括虚假参考文献、不小心粘入的与 AI 对话内容等。

该规定由机器学习板块首席版主 Thomas G. Dietterich 宣布，他在社交平台解释，新规直接源于 arXiv 既有的审核标准。无论稿件中出现不当言论、抄袭、学术偏见、虚假参考文献还是误导性内容，所有署名作者都必须对这些 AI 生成的错误承担全责，而不能将责任推卸给工具。

arXiv是全球计算机科学领域最大的开源学术文献库，学者通常会在接受期刊正式的评审之前，先将论文的预印本发布到arXiv，以获得同行反馈。如果遭遇限制，对论文发表会有不小影响。

热搜指数★★

⚠️风险指数高

5、谷歌发布安卓的AI操作系统，可以打车和识别表单

5月12日，Google发布用于安卓系统的Gemini intelligence，用户可以通过语音助手下达指令让AI帮自己叫车或填写复杂的表单、让AI识别照片或邮件中的商品并打开购物App加入购物车、让AI把自己的口头语言转写成更专业化的文字表述。Google还给了AI创设小组件的能力，用户可以通过语音任意创建适应自己需求的功能组件，并置于主页上。

Gemini intelligence对应于苹果的Apple Intelligence，不过后者至今没有完整推出。Google称，Gemini intelligence将首发三星手机和Pixel手机，后续逐步拓展到其他Android手机，以及手表、眼镜、汽车和ChromeOS电脑。

热搜指数★★

⚠️风险指数低