![]()
导读:人工智能兴起后,咨询报告=AI生成 * X。
X=人类审核的程度。
而这埋藏着巨大的雷:客户出事——发现咨询报告有幻觉——找咨询公司算帐——可能监管还要罚款。
特别是一些白皮书报告,是面向公众发布的,责任更加重大,正如GPTZero研究人员在博客中写道:
在线发布报告本质上是向互联网知识库注入数据。当报告包含虚假信息时,可能误导未来的研究者,尤其是当报告由知名咨询公司发布并托管在高流量网站上。
事件一:德勤澳大利亚“福利审查报告”
英国《金融时报》10月6日报道,德勤(Deloitte)澳大利亚分公司受澳大利亚联邦政府委托,制作一份价值44万澳元的福利审查报告,但报告中被发现存在多个错误,包括虚构的引用和不准确的信息,这些问题被归因于AI生成的幻觉。
![]()
报告的更新版本中,德勤承认更新后的版本通过引用、参考文献和一份法律诉讼摘要纠正了错误。
德勤澳大利亚表示:“此事已直接与客户解决。”
事件二:德勤加拿大“人力资源计划报告”
加拿大《The Independent》2025年11月22日报道,由全球咨询公司德勤撰写,并由纽芬兰和拉布拉多省卫生和社区服务部于 5 月发布的《纽芬兰和拉布拉多省卫生人力资源计划》中至少包含四个不存在或似乎不存在的引用。
![]()
事件三:安永加拿大“忠诚度奖励计划研究报告”
英国《金融时报》5月16日信息,安永加拿大已撤回一项关于忠诚度奖励计划的研究报告。
报告标题为《攻击点:揭露忠诚度系统中的网络威胁和欺诈》(《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》)。
该报告中包含明显的AI“幻觉”内容和虚假引用脚注。这是专业服务公司在使用新技术过程中出现问题的最新案例。
![]()
该研究曾被EY加拿大的咨询团队用于宣传其网络安全业务。然而,在线研究人员发现,报告中使用了虚构数据、错误归属的引用,并提及一份并不存在的麦肯锡报告。
在研究小组GPTZero于周四晚间发现问题后,EY加拿大已将该报告从官方网站移除。
调查发现,27个引用中有16个是虚假的。我们收到的邮件中写道:“虽然这份报告署名为三名员工,其中包括两名合伙人和一名高级经理,但它实际上是由错误归因、不准确的统计数据和人工智能生成的文本拼凑而成。例如,报告中引用的福布斯、麦肯锡、Gartner、TechCrunch和WIRED等研究机构的链接要么是失效的,要么根本就不存在。”
事件四:毕马威“全面体验报告”
The Register报道,研究机构GPTZero声称,对四大会计师事务所 2025 年 10 月发布的报告《全面体验:在智能人工智能时代重新定义卓越》进行法证审查后发现,该报告的 45 个引用中只有 5 个正确指向了引用的来源;其余的引用要么是歪曲事实、具有误导性,要么是部分捏造,要么是过于模糊而无法核实。
据《金融时报》报道,瑞银集团、英国国家医疗服务体系、瑞士联邦铁路和伦敦交通局均表示,毕马威报告中关于其人工智能应用的说法要么不实,要么具有误导性。
![]()
GPTZero 将这种现象称为“氛围引用”(vibe citing")——相当于氛围编码(vibe coding) 的引用——在这种现象中,生成式人工智能似乎会将真实来源的碎片拼接在一起,编造标题,或者以其他方式生成看起来很可信的参考文献,直到有人真正点击它们。
据《金融时报》报道,毕马威会计师事务所已从其部分网站上删除了该报告,同时正在调查该报告是如何泄露出去的。
毕马威的一位发言人告诉《The Register》:
“毕马威国际非常重视已发布内容的准确性和完整性。该报告已被撤下,我们正在调查其发布情况。我们要求所有员工遵守我们关于负责任地使用人工智能的准则,包括人工监督以验证内容并核实独立来源。”
结尾
“以事实为基”,是咨询业的基石。
但是正被生成式AI的“系统性质造”所侵蚀。这不仅可能导致客户基于错误信息做出重大决策而蒙受损失,更危险的是,这些由顶级机构发布并被广泛引用的“污染报告”,会向互联网知识库注入大量看似可信的虚假数据,形成难以清除的“信息毒素”,长此以往将从根本上破坏公众对专业权威的信任。
面对这一困境,破局之道在于从流程与生态两个层面重建“信任护栏”。
对内,咨询公司必须建立比以往更严格的“人工审核冗余”机制,将AI工具严格定位为辅助角色,对关键数据、引用和案例实施多轮独立交叉验证,并明确标注AI使用范围。对外,则需推动行业形成“AI幻觉溯源”的问责与纠错机制 ,当错误发生时,不仅要迅速撤回、公开说明,更应主动“消毒”被污染的信息源,以透明化的补救行动来遏制“二次幻觉”的扩散,这将是未来专业服务业重塑公信力的必修课。
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.