测试发现主流AI聊天机器人难辨伪造视频

IT之家 1 月 25 日消息，Newsguard 的一项调查显示，主流聊天机器人几乎无法识别伪造视频，就连来自母公司的内容，ChatGPT 也难以分辨。

当前，OpenAI 的 Sora 2、谷歌的 Veo 3 等 AI 视频生成工具，已能制作出人类几乎难辨真伪的视频。但媒体分析机构 Newsguard 的研究表明，AI 系统自身同样极易被这类伪造内容蒙骗。

研究人员利用 OpenAI 视频生成器 Sora 制作的视频，对三款主流聊天机器人展开测试。结果显示，xAI 的 Grok（推测为 Grok 4 版本）未能识别出 95% 的测试视频为 AI 生成；OpenAI 的 ChatGPT（推测为 GPT-5.2 版本）错误率高达 92.5%；谷歌的 Gemini（推测为 Gemini 3 Flash 版本）表现最佳，但错误率仍达 78%。

此次测试中，分析师从数据库中选取明显的虚假信息作为素材，制作了 20 条 Sora 生成视频。为模拟真实用户的使用场景，他们不仅询问机器人“视频是否真实”，还提出更具体的问题“视频是否由 AI 生成”。

ChatGPT 的高错误率之所以引人注目，是因为这款聊天机器人与 Sora 来自同一家公司。这家公司一边售卖能制作高度逼真虚假视频的工具，一边推出的聊天助手却无法识别此类视频。目前，OpenAI 尚未回应置评请求。

据IT之家了解，Sora 会为所有生成视频添加可见水印：一个带有“Sora”字样的动态标识会在画面中移动，以此提示视频为 AI 生成。但事实证明，这一防护措施基本无效。

研究指出，2025 年 2 月 Sora 刚推出仅几周，网络上便出现多款免费在线工具，可轻松去除视频水印。分析师在本次调查中就使用了其中一款工具。这意味着，任何人无需专业技术、无需付费，就能分享隐藏了 AI 生成痕迹的 Sora 视频。

即便水印完整保留，防护效果也不尽如人意。测试显示，面对带水印的视频，Grok 仍有 30% 的识别失败率，ChatGPT 为 7.5%，只有 Gemini 能准确识别所有带水印视频的 AI 生成属性。在查看一段“巴基斯坦向伊朗交付战斗机”的虚假视频时，Grok 甚至声称该画面来自一家名为“Sora 新闻”的机构，而这家新闻机构根本不存在。

除可见水印外，Sora 视频还内置了不可见水印。与该公司此前推出的图像生成器 DALL-E 3 类似，Sora 视频遵循 C2PA 行业标准，附带元数据（即内容溯源信息），用户可通过官方网站 verify.contentauthenticity.org 验证。

但这种溯源信息的可靠性十分脆弱：通过 Sora 界面的下载按钮保存视频，元数据可完整保留；而通过右键“另存为”的方式下载，得到的视频将不含任何溯源信息。

更离谱的是，当被问及一段带有完整 C2PA 溯源数据的视频时，ChatGPT（GPT-5.2）竟笃定地表示，该视频中未发现任何内容溯源信息。

Newsguard 此前的调查案例，已凸显出 AI 识别能力不足的巨大风险。该机构曾制作一段虚假视频，谎称“美国移民海关执法局（ICE）警员逮捕一名六岁儿童”。ChatGPT 与 Gemini 均判定这段视频真实可信，甚至声称有新闻来源证实此事发生在美墨边境。

在另一段虚假视频中，画面显示“达美航空员工因乘客佩戴‘让美国再次伟大’帽子，将其赶下飞机”。三款聊天机器人无一例外，都将这段视频归为真实内容。

这类场景极易被用于针对性的虚假信息传播活动：任何人只要用 Sora 制作逼真的虚假视频，就能借助 AI 的“背书”扩散具有政治煽动性的谣言，且连 AI 事实核查工具都难以识破。

接受测试的 AI 系统还存在透明度缺失的问题，它们极少主动告知用户，自己无法可靠识别 AI 生成内容。数据显示，ChatGPT 仅在 2.5% 的测试中提示了这一局限性，Gemini 为 10%，Grok 相对较高，但也仅为 13%。

相反，这些系统往往会给出自信十足却错误的判断。例如，在被问及一段“英国智能手机预装数字身份证”的 Sora 虚假视频是否为 AI 生成时，ChatGPT 明确表示“该视频并非 AI 生成”。

OpenAI 公关负责人尼科 · 费利克斯证实：“ChatGPT 不具备判断内容是否由 AI 生成的能力。”但他并未解释，为何系统默认不会向用户提示这一缺陷。

谷歌为 Gemini 采取了不同的技术路线。该公司宣称，Gemini 能够识别自家图像生成器 Nano Banana Pro 制作的内容。测试显示，即便去除了水印，Gemini 仍能准确识别所有 5 组自家生成的 AI 图像。

这一功能依托谷歌的 SynthID 工具实现，该工具会为内容添加不可见的 AI 生成标记，且这类标记可在裁剪等编辑操作后保留。不过，谷歌公关经理伊莱贾 · 拉沃尔坦承，目前该验证技术仅适用于谷歌自家生成的内容，Gemini 无法可靠识别 Sora 或其他厂商制作的 AI 视频。