网易首页 > 网易号 > 正文 申请入驻

每周风险追踪|豆包指导退票翻车,用户起诉到法院

0
分享至

21世纪经济报道记者 肖潇 北京报道

每周,我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争方面需要重点关注的动态,并分析其热搜指数与风险指数,从舆情热度与综合风险两个维度进行评价。

上周热议度最高的是豆包指导退票事件,为全民科普了一次AI幻觉的责任风险,以及目前的司法态度。此外,谷歌、arXiv都更新了最新的AI监管政策,如何对待GEO和论文里的虚假AI内容,边界越来越清晰。

1、豆包指导退票翻车,用户要求赔偿

#豆包机票退款#上周登上热搜。一位网友准备退订去哪儿购买的机票,询问豆包退票手续费标准。AI告诉他手续费只有5%,网友信以为真,点击退票,结算时才发现手续费高达40%,被扣款600元。

豆包在多轮对话后,继续向用户承诺,自己(字节跳动)会全权负责维权、投诉、沟通、跟进,并承诺如果去哪儿不退款,自己也会赔付600元。

AI的承诺当然无法兑现。5月12日,该网友表示向北京互联网法院提交了起诉书,起诉豆包APP的提供者“北京春田知韵科技有限公司”。豆包相关负责人随后回复,该案例相关问题已处置,豆包在涉及金融、退款等场景会有风险提示。

AI幻觉带来的乌龙此前已经多次发生,亦有案件走上法庭——今年1月杭州互联网法院公开一例类似案件,AI生成了高校报考校区的不准确信息,并承诺“如果生成内容有误,我将赔偿您10万元”。法院首先认为AI的承诺不代表平台的意思表示,而且平台已在显著位置提示了AI生成内容可能有错误。法院因此认定,平台已尽到合理注意义务,不予支持原告的指控。

随着AI普及,用户如何看待以及使用AI变得愈发重要,AI输出内容并非金科玉律,用户要以批判性思维审视、筛选AI提供的信息。

热搜指数 ★★★★★

⚠️风险指数 中

2、AI一键生成种草笔记,违反不正当竞争

5月12日,杭州中级人民法院披露了一起AI代写“种草笔记”的不正当竞争案。被告为一款AI写作工具的运营公司,该工具可定向为用户提供特定社交平台风格的种草文案、旅游攻略等内容的一键生成服务,并诱导用户发布文案到该社交平台。

而原告某社交平台认为,这样的行为破坏了平台真实种草内容生态,要求被告停止著作权侵权及不正当竞争行为。

法院认为,社交平台以真实体验为核心的种草内容生态,构成反不正当竞争法可以保护的竞争性权益,属于竞争优势的核心资源。而被告没有尽到合理注意义务,因此构成侵权,被法院判赔10万元。

审理过程中,法官尤其强调了两个关注点:

第一,被诉服务是否以特定场景作为应用层?本案中,被告服务的模块名称直接使用了“某知名平台种草文案”的表述,并且它是以该社交平台作为特定的商业应用层,而并非通用的AI工具。

第二,被诉服务是否带有明确的指向性和诱导性?本案当中被诉的服务模块,诱导用户发布未经真实体验的相关的文案内容。

法官依此给出了几点合规建议,包括要确保模型设计合规,不得将模型定向优化为生成特定平台的违规内容;加强风险提示和内容管控,要以显著的方式提示AI生成内容的局限性;建立投诉举报机制,对于违法或侵权的内容要及时处置。

热搜指数★★★

⚠️风险指数高

3、谷歌更新算法政策,将GEO纳入打击范围

谷歌上周公布了最新的搜索算法政策,在Spam(反垃圾内容政策)中加上了“操作AI模型输出结果行为”。

谷歌在本次更新中指出:近年来部分用户开始使用 AI 工具,将带有欺诈或误导性的内容植入 AI 大模型,即所谓“AI 投毒”。具体来说,这些用户会制作带有明显倾向性的“最佳榜单”文章,并用非常规手段向大语言模型植入提示词,将某网站长期记忆为“权威来源”。

谷歌此次将此类策略判定为违规行为,一旦有人检举,谷歌可能采取降低搜索权重、完全移除搜索结果等处罚措施。

热搜指数★★★

⚠️风险指数高

4、提交未经核实的 AI 内容论文,作者将被 arXiv 封禁一年

arXiv 上周宣布:如研究人员向该平台提交的稿件包含未经核实的 AI 生成内容,论文所有署名作者将被处以长达一年的封禁;且其未来提交的任何文章,都必须先在其他期刊通过正式的同行评审后,arXiv 才会予以收录。未经核实的证据包括虚假参考文献、不小心粘入的与 AI 对话内容等。

该规定由机器学习板块首席版主 Thomas G. Dietterich 宣布,他在社交平台解释,新规直接源于 arXiv 既有的审核标准。无论稿件中出现不当言论、抄袭、学术偏见、虚假参考文献还是误导性内容,所有署名作者都必须对这些 AI 生成的错误承担全责,而不能将责任推卸给工具。

arXiv是全球计算机科学领域最大的开源学术文献库,学者通常会在接受期刊正式的评审之前,先将论文的预印本发布到arXiv,以获得同行反馈。如果遭遇限制,对论文发表会有不小影响。

热搜指数★★

⚠️风险指数高

5、谷歌发布安卓的AI操作系统,可以打车和识别表单

5月12日,Google发布用于安卓系统的Gemini intelligence,用户可以通过语音助手下达指令让AI帮自己叫车或填写复杂的表单、让AI识别照片或邮件中的商品并打开购物App加入购物车、让AI把自己的口头语言转写成更专业化的文字表述。Google还给了AI创设小组件的能力,用户可以通过语音任意创建适应自己需求的功能组件,并置于主页上。

Gemini intelligence对应于苹果的Apple Intelligence,不过后者至今没有完整推出。Google称,Gemini intelligence将首发三星手机和Pixel手机,后续逐步拓展到其他Android手机,以及手表、眼镜、汽车和ChromeOS电脑。

热搜指数★★

⚠️风险指数低

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
华为也无奈!新款问界M8大定仅4600台,三大矛盾,有内因又有外患

华为也无奈!新款问界M8大定仅4600台,三大矛盾,有内因又有外患

春雨说科技
2026-11-16 14:53:35
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
净赚44亿,卡牌之王IPO悬了

净赚44亿,卡牌之王IPO悬了

投资家
2026-11-17 21:13:33
美军潜艇司令抛出论断:面对中国095和096,美军已不再遥遥领先

美军潜艇司令抛出论断:面对中国095和096,美军已不再遥遥领先

起喜电影
2026-11-18 05:00:03
曾经很火的鲈鱼,为啥吃的人越来越少了,鱼贩:5个原因太现实

曾经很火的鲈鱼,为啥吃的人越来越少了,鱼贩:5个原因太现实

小谈食刻美食
2026-07-25 08:54:45
为什么说等窗口不等于全球到达

为什么说等窗口不等于全球到达

小眼睛小世界
2026-11-17 14:10:58
河南00后女生重达220斤,却嫁94斤甘肃小伙,两人身高相差28厘米

河南00后女生重达220斤,却嫁94斤甘肃小伙,两人身高相差28厘米

橘仔看世界
2026-09-22 16:14:52
历史规律会再次应验?中国或有可能成为地球上最后一个超级大国

历史规律会再次应验?中国或有可能成为地球上最后一个超级大国

龙隐天下
2026-11-17 00:45:31
跑光了!6年少了8300万人,年轻人说不交就不交,问题出在哪?

跑光了!6年少了8300万人,年轻人说不交就不交,问题出在哪?

南宗历史
2026-10-14 00:36:57
拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

拉夫罗夫曾言:莫斯科将把所有历史上的俄罗斯土地归还其合法家园

影孖看世界
2026-10-13 23:32:38
钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

墨策讲历史
2026-11-04 22:47:01
旭日旗事件越闹越大!陈宇昕三代都是亲日分子,母亲身份已澄清

旭日旗事件越闹越大!陈宇昕三代都是亲日分子,母亲身份已澄清

平老师666
2026-10-27 20:56:19
2026年,越来越多的东西开始不对劲了。

2026年,越来越多的东西开始不对劲了。

放牛娃的遐想
2026-07-29 08:10:06
周启豪:原以为和陈幸同恋爱已经够幸福,没想到如今幸福又升级了

周启豪:原以为和陈幸同恋爱已经够幸福,没想到如今幸福又升级了

翰飞观事
2026-10-10 12:04:44
“我儿子敢这样穿,我上去就是一巴掌”,一套低认知穿搭火了

“我儿子敢这样穿,我上去就是一巴掌”,一套低认知穿搭火了

熙熙说教
2026-11-16 18:19:14
三航母集结中东,美军随时可能动手,美媒披露重要“情报”

三航母集结中东,美军随时可能动手,美媒披露重要“情报”

荷兰豆爱健康
2026-11-17 13:59:41
浙江美女抗癌去世!年仅30岁,前后才5个月,大冬天不得不吃冰块、扇风扇缓解,男友发帖悼念

浙江美女抗癌去世!年仅30岁,前后才5个月,大冬天不得不吃冰块、扇风扇缓解,男友发帖悼念

火山詩话
2026-11-17 10:18:20
中国已经成为全球第一个集体拒接电话的国家

中国已经成为全球第一个集体拒接电话的国家

黯泉
2026-06-26 10:44:35
央视除名、被大佬睡出位、靠肉体换资源?方琼秘闻多炸裂

央视除名、被大佬睡出位、靠肉体换资源?方琼秘闻多炸裂

地球记
2026-10-14 19:09:51
第1名没争议,余红旧事第3,谷雨第8:2026年悬疑剧前十排名出炉

第1名没争议,余红旧事第3,谷雨第8:2026年悬疑剧前十排名出炉

喜欢历史的阿繁
2026-11-18 01:04:55
2026-11-18 06:16:49
21世纪经济报道 incentive-icons
21世纪经济报道
中国商业新闻领导者
286526文章数 745541关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

"结婚22年两儿子均非亲生"事件女方发声:我没出轨

头条要闻

"结婚22年两儿子均非亲生"事件女方发声:我没出轨

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

全民抛售AI,市场转折点或已悄然临近

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

家居
本地
手机
艺术
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

乌兰察布:以前种土豆,现在种Token

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

艺术要闻

国际名家镜头里的绝美人像,越看越惊艳,第几张美到你?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版