南非AI政策草案因引用AI捏造文献被迫撤回

南非已撤回其国家AI政策草案，原因是该草案援引了多个仅存在于聊天机器人"想象"中的虚构来源。

南非通信与数字技术部于上周末正式确认，这份已通过内阁审议并公开征求意见的草案，其参考文献列表中包含"多个虚构来源"。

通信部长索利·马拉齐表示，在有关虚假引用的报道引发关注后，该部门对草案进行了重新核查，结果发现确实存在捏造的引用内容，随即决定撤回该文件。他在X平台发文称："这一失误绝非单纯的技术问题，已严重损害了政策草案的完整性与公信力。"他补充说，AI生成的引用内容在未经任何人核实的情况下被纳入草案。

该文件现已撤回，马拉齐表示，参与起草与审批的相关人员将面临"后果处理"。

"这一不可接受的疏漏，恰恰证明了对人工智能使用保持严格人工监督的重要性。我们以谦逊的态度从中汲取教训。"马拉齐说道，"我想向全国保证，我们正以这一事件应有的严肃态度认真对待。"

这份已被撤回的政策草案原本被定位为一份前瞻性框架，充斥着"代际公平"以及AI惠及当代与未来世代等宏大表述，如今却因一份经不起推敲的参考文献列表而声名狼藉。

南非本地媒体News24此前报道称，该报告中至少有六处引用系伪造，专家指出这些错误具有典型的AI幻觉特征：表面上令人信服，实则完全出于虚构。

News24报道发布后，负责监督该部门的议会投资组合委员会主席库塞拉·桑戈尼-迪科公开要求马拉齐撤回该文件，以避免进一步的尴尬局面。她还建议重新起草时"这次别用ChatGPT"，并提醒政府不要急于寻找替罪羊，或者说"替罪机器人"。

总体而言，这对于一个试图制定AI监管规则的政府来说，形象实在难堪——其自身出台的政策连基本的事实核查都无法通过。而且这也并非孤例。正如The Register去年所报道的，德勤曾不得不协助修复澳大利亚政府的一份报告，原因同样是AI生成的引用内容，甚至包括一段捏造的法庭引语被混入其中。这再次提醒我们：让机器代劳写作是一回事，对内容进行核实则是另一回事。

南非此番已以惨痛的方式学到了这个教训。当一国的国家AI政策连真实来源与虚构来源都无法辨别时，恐怕还远未具备监管他人AI系统的资格。

Q&A

Q1：南非AI政策草案为什么会被撤回？

A：南非通信与数字技术部确认，已通过内阁审议并公开征求意见的国家AI政策草案，其参考文献列表中包含多个虚构来源。这些引用内容由AI生成，却未经任何人工核实便被纳入草案。通信部长马拉齐表示，此次失误严重损害了政策草案的完整性与公信力，因此决定予以撤回，并对相关责任人启动后果处理程序。

Q2：AI幻觉问题在政府文件中有多普遍？

A：AI幻觉问题并非南非独有。The Register曾报道，澳大利亚政府的一份报告也出现了类似情况，德勤不得不介入协助修复，原因同样是AI生成的虚假引用，甚至包括一段捏造的法庭引语。这表明，在政府文件起草过程中引入AI辅助写作，若缺乏严格的人工审核机制，极易出现以假乱真的错误内容。

Q3：南非政府对此次事件将如何处理？

A：通信部长马拉齐表示，参与草案起草与审批的相关人员将面临"后果处理"。与此同时，议会投资组合委员会主席建议重新起草时不要再使用ChatGPT等AI工具，并要求政府认真对待此次事件，而非推卸责任。马拉齐强调，将以严肃态度看待此次疏漏，并以此为契机强调人工智能使用中人工监督的重要性。