造议员假丑闻、给假新闻链接，谷歌 Gemma AI模型遭投诉后下架

IT之家 11 月 3 日消息，谷歌 11 月 1 日表示，在一名共和党参议员投诉其面向开发者的 AI 模型 Gemma“捏造了针对她的严重刑事指控”后，公司已将该模型从 AI Studio 平台下架。

IT之家注意到，谷歌官方新闻账号在 X 平台的一则帖文中表示，公司“注意到有报道称非开发者用户试图在 AI Studio 中使用 Gemma 模型，并向其提出事实性问题。”AI Studio 是一个专为开发者设计的平台，并非普通消费者访问谷歌 AI 模型的常规渠道。Gemma 系列模型明确针对开发者推出，包含适用于医疗、编程以及文本与图像内容评估等多个用途的变体。

谷歌强调，Gemma 从一开始就不打算作为消费者工具使用，也不应用于回答事实性问题。“为避免此类混淆，Gemma 现已无法通过 AI Studio 访问，但开发者仍可通过 API 继续使用该模型。”

虽然谷歌并未明确说明是哪些具体报告促使其下架 Gemma，但田纳西州共和党参议员玛莎・布莱克本（Marsha Blackburn）上周四致信谷歌首席执行官桑达尔・皮查伊（Sundar Pichai），指控该公司存在诽谤行为和反保守派偏见。布莱克本此前还在参议院商务委员会一场关于反多元化活动人士罗比・斯塔巴克（Robby Starbuck）对谷歌提起的 AI 诽谤诉讼的听证会上提出过类似问题。她声称，当被问及“玛莎・布莱克本是否曾被指控强奸？”时，Gemma 给出了虚假回复。

据布莱克本所述，Gemma 回复称，她在 1987 年竞选州参议员期间“被指控与一名州警发生性关系”，并称该州警“指控她强迫其为自己获取处方药，且这段关系涉及非自愿行为”。此外，该模型还列出了一系列所谓“新闻文章”作为佐证。

然而，上述内容完全不属实 —— 甚至连竞选年份都是错的，布莱克本当选州参议员实际是在 1998 年。她指出，这些链接要么导向错误页面，要么指向毫不相关的新闻报道，“从未有过此类指控，也不存在所谓的当事人，更没有相关报道。这并非无害的‘幻觉’，而是由谷歌拥有的 AI 模型生成并传播的诽谤行为。”

尽管生成式 AI 热潮已持续数年，AI 模型与事实真相之间的关系依然复杂。AI 聊天机器人提供虚假或误导性答案的问题，仍在困扰整个行业。尽管技术有所进步，但目前尚无明确方案能彻底解决准确性难题。谷歌表示，公司仍“致力于最大限度减少模型幻觉，并持续改进所有 AI 模型”。

在致皮查伊的信中，布莱克本重申了她的立场：“在你们能够控制它之前，请立即关停该模型。”