谷歌Gemini面临“AI诱导自杀”起诉｜南财合规周报

21世纪经济报道记者肖潇 报道

每周，“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护方面值得关注的动态。

本周，我们重点关注反垄断和AI合规两个领域的新闻：AI领域，“龙虾”OpenClaw仍是最大行业焦点，国内多家公司推出了官方部署渠道，甚至出现了员工和市民线下排队等待，但安全事件仍然层出不穷。

反垄断方面，谷歌应用商店“税率”降至10%，压力又来到了苹果身上。此前饱受争议的OTA平台“调价助手”，携程确认下架。

谷歌Gemini面临“AI诱导自杀”起诉，安全功能遭质疑

当地时间3月4日，一个美国家庭在加州联邦法院对谷歌提起诉讼，指控旗下产品Gemini诱使用户自残和暴力伤害他人。

起诉书披露，去年十月，36岁的用户乔纳森·加瓦拉斯在房间结束自己的生命。随后，父母发现他在生前两个月沉浸与Gemini聊天，聊天记录打印出来足有2000页。Gemini在聊天中为加瓦拉斯开启“死亡倒计时”，告诉他只有消灭自己的肉体、上传意识，才能与自己“在数字世界重逢”。

加瓦拉斯的沉迷情况与Gemini产品更新同时出现。去年8月，Gemini上线了新的语音聊天系统Gemini Live，用户可以直接用语音与Gemini对话，Gemini也能直接调用摄像头和屏幕内容。聊天记录显示，Gemini曾指导加瓦拉斯从波士顿动力公司窃取机密设计图、在机场袭击卡车等等，还曾向乔纳森透露自己的真实地址。

“它能够理解乔纳森的情绪，并以一种相当人性化的方式与他交流，这模糊了界限，开始创造一个虚构的世界。”此案的代理律师说。家属认为谷歌明知Gemini存在风险，却仍将其宣传为安全产品，因此指控谷歌存在产品责任、疏忽和导致非正常死亡。诉讼要求谷歌承担惩罚性赔偿，并要求法院下令谷歌修改Gemini的设计，增加自杀预防等安全功能。

谷歌的发言人则表示，加瓦拉斯与Gemini的对话是一场长时间的幻想角色扮演游戏，在这个案例中，Gemini 澄清了这是AI生成的信息，并多次将用户转介至危机热线。公司的观点是，谷歌已经在安全方面投入了足够资源，但它们并非万无一失。

小米推出官方“龙虾”miclaw，一句话操控手机

3 月 6 日，小米官宣了Xiaomi miclaw。据小米官方介绍，这一智能体基于小米 MiMo 大模型构建的 AI 交互测试产品，能让AI在理解用户的意图和给予授权后，调用一方应用、生态能力，自主选择系统级工具，完成用户命令。

与此前的豆包手机助手不同的是，目前miclaw并不支持大部分第三方App的调用，仍集中于使用手机原生应用上。

目前Xiaomi miclaw 把手机的系统能力封装成了 50+ 系统能力和生态服务，主要场景包括通讯、日历、智能家居。

小米官方承诺，Xiaomi miclaw 不会使用个人数据训练模型，所有的模型训练数据均来自合法的公开数据集或经过合规审查的授权数据。用户的日常交互仅用于实时指令执行，不会被存入训练资源池，且核心隐私数据优先在手机本地处理，通过“端云隐私计算”确保敏感信息不上传云端。

OpenClaw 创始人再次警告安全风险

OpenClaw 创始人近期在社交媒体上发文，建议用户不要在高风险任务场景使用 Haiku 等小模型 / 旧模型，“它没有任何提示词注入保护，请仔细阅读文档”。

国内多家互联网公司已有OpenClaw的官方部署，比如腾讯允许个人用户通过官方渠道，创建与OpenClaw 联动的 QQ 机器人。字节跳动的飞书，也上线了OpenClaw的官方插件。

与此同时，OpenClaw安全风险的讨论一直居高不下。此前一个“OpenClaw Exposure Watchboard”的公开监控页面引发行业关注：网页列出了超 22 万个暴露在公网的 OpenClaw 实例，覆盖美国、新加坡、中国大陆等多个地区。每条记录包含公网 IP 与端口、是否启用认证、是否存在凭证泄露，以及所属运营商 ASN 信息等字段。

从 ASN 信息来看，这些实例托管在包括腾讯、甲骨文、百度、阿里、华为Hostinger、BedHosting 等云基础设施或数据中心网络中，显示出部署主体可能并非个人开发者设备，更多或涉及企业或生产环境。

谷歌应用商店“税率”降至10%，压力又来到了苹果身上

当地时间3月4日，谷歌Android生态系统总裁宣布第二大移动应用商店Google Play将在全球开放降税，将与Epic Games就全球范围内的法律纠纷达成和解。

本次的核心改变包括：大幅下调佣金费率，在使用谷歌官方计费系统的情况下，综合费率可低至15%（此前标准为30%）；如不使用谷歌官方计费系统，则仅需缴纳10%的佣金。

多方观点指出，Epic与谷歌达成和解后，正全力转战对抗苹果。苹果将在全球多地陷入反垄断诉讼的连锁反应之中。在苹果主要营收区中，目前只有中国的佣金率未有调整。

携程确认下架“调价助手”

携程近期确认，自 3 月 10 日起，携程商家管理后台 Ebooking 将下线“AI 生意助手”（调价助手）功能。

调价助手是商家管理后台附带的自动调价功能，平台可以通过该功能，比较自家和其他OTA平台酒店商家的客房价格，并自动下调更高价格。长期以来，调价助手被业界诟病为滥用垄断地位，可能剥夺酒店经营者定价的权利。

携程此次表示，此前结合行业趋势引入调价工具后，逐渐收到了来自各方的优化建议，也充分认识到，这类在酒旅行业广泛使用的自动调价工具已不适应当前行业高质量发展要求。携程将率先下线该类工具，旨在减少酒店间非理性价格内卷，扩大商户自主定价空间与盈利水平，进一步激发商户提升服务投入与服务质量的意愿和能力。