ChatGPT最新模型引用马斯克Grokipedia作为信息源引发争议

最新的ChatGPT模型开始在广泛查询中引用埃隆·马斯克的Grokipedia作为信息源，包括伊朗企业集团和大屠杀否认者等话题，这引发了人们对平台错误信息传播的担忧。

《卫报》进行的测试显示，GPT-5.2在回答十多个不同问题时，有九次引用了Grokipedia。这些问题包括伊朗政治结构相关查询，如巴斯基准军事部队的薪资和穆斯塔扎芬基金会的所有权，以及关于理查德·埃文斯爵士传记的问题。埃文斯是英国历史学家，曾在大屠杀否认者大卫·欧文的诽谤案中担任专家证人。

Grokipedia于十月推出，是一个由AI生成的在线百科全书，旨在与维基百科竞争。该平台因在同性婚姻和美国1月6日暴乱等话题上传播右翼叙事而受到批评。与维基百科不同的是，Grokipedia不允许人工直接编辑，而是由AI模型编写内容并响应修改请求。

当被直接提示重复关于暴乱、媒体对唐纳德·特朗普偏见或艾滋病疫情的错误信息时，ChatGPT并未引用Grokipedia。在这些领域，Grokipedia被广泛报道存在虚假信息传播问题。相反，当被询问更为晦涩的话题时，Grokipedia的信息才会渗透到模型的回答中。

例如，ChatGPT引用Grokipedia时，对伊朗政府与MTN-Irancell公司关系的描述比维基百科更为强烈，声称该公司与伊朗最高领袖办公室存在联系。

ChatGPT还在重复《卫报》已辟谣的信息时引用了Grokipedia，即关于理查德·埃文斯爵士在大卫·欧文案件中担任专家证人工作的细节。

GPT-5.2并非唯一引用Grokipedia的大语言模型。据传闻，Anthropic的Claude也在石油生产到苏格兰啤酒等话题上引用了马斯克的百科全书。

OpenAI发言人表示，该模型的网络搜索"旨在从广泛的公开来源和观点中获取信息"。发言人说："我们应用安全过滤器来降低显示与高严重性危害相关链接的风险，ChatGPT通过引用清楚地显示哪些来源为回答提供了信息。"他们还补充说，公司有持续的项目来过滤低可信度信息和影响活动。

Anthropic未回应置评请求。

但Grokipedia的信息有时非常微妙地渗透到大语言模型回答中的事实，令虚假信息研究人员担忧。去年春天，安全专家担心恶意行为者，包括俄罗斯宣传网络，正在大量制造虚假信息，试图在AI模型中植入谎言，这一过程被称为"大语言模型诱导"。

六月，美国国会对谷歌的Gemini重复中国政府在新疆人权问题和新冠疫情政策上的立场表示担忧。

曾研究大语言模型诱导的虚假信息研究员尼娜·扬科维奇表示，ChatGPT引用Grokipedia引发了类似担忧。虽然马斯克可能无意影响大语言模型，但她和同事审查的Grokipedia条目"依赖的信息源在最好的情况下是不可信的，在最坏的情况下是来源不明和故意的虚假信息"。

大语言模型引用Grokipedia或真理报网络等来源的事实，可能反过来提高这些来源在读者眼中的可信度。"他们可能会说，'哦，ChatGPT在引用它，这些模型在引用它，它肯定是个不错的来源，他们肯定已经审核过了'——然后他们可能会去那里寻找关于乌克兰的新闻，"扬科维奇说。

错误信息一旦渗透到AI聊天机器人中，就很难移除。扬科维奇最近发现一家大型新闻机构在关于虚假信息的报道中包含了一个虚构的她的引语。她写信给新闻机构要求删除该引语，并在社交媒体上发布了这一事件。

新闻机构删除了该引语。然而，AI模型在一段时间内继续将其作为她的话引用。"大多数人不会做必要的工作来找出真相到底在哪里，"她说。

当被要求置评时，Grokipedia的所有者xAI发言人表示："传统媒体在撒谎。"

Q&A

Q1：Grokipedia是什么？它与维基百科有什么不同？

A：Grokipedia是埃隆·马斯克推出的AI生成在线百科全书，于十月推出，旨在与维基百科竞争。与维基百科不同的是，Grokipedia不允许人工直接编辑，而是完全由AI模型编写内容并响应修改请求。该平台因传播右翼叙事而受到批评。

Q2：ChatGPT为什么会引用Grokipedia的内容？

A：测试显示，当用户询问较为晦涩的话题时，Grokipedia的信息会渗透到ChatGPT的回答中。OpenAI表示其网络搜索旨在从广泛的公开来源获取信息，并应用安全过滤器来降低风险，但Grokipedia的内容仍然被引用了九次。

Q3：大语言模型引用不可靠信息源会产生什么影响？

A：这会提高不可靠信息源在读者眼中的可信度，因为用户可能认为被AI引用的来源已经过审核。错误信息一旦进入AI系统就很难移除，可能长期影响用户获取准确信息。这被称为"大语言模型诱导"，是虚假信息研究人员关注的重要问题。