实时检测、用户可用，一款新的AI鉴伪工具背后

马斯克和“机器人女友”的亲密照、登月失败的视频……不论出于娱乐还是诈骗目的，AI合成内容都打破了眼见为实的传统逻辑。

6月21日，瑞莱智慧开启新款AI鉴伪工具RealBelieve的内测。RealBelieve中文名“尊嘟假嘟”，面向终端用户，提供主动实时检测防护，可接入视频流鉴别人脸真伪，也可在用户浏览网页内容时提供AIGC（人工智能生成内容）合成可能性提示。

做AI鉴别的价值不用赘述，海外的Open AI和微软有意，国内的大厂和创业公司也有解决方案。但业内人士对推广此类产品的时机持怀疑态度。RealBelieve强调的to C(用户)、实时检测会让这场“猫鼠游戏”出现怎样的新局面？瑞莱智慧高管团队向北京商报记者透露了产品背后的思考。

用户有需求

“这是公司第一次的to C产品尝试：有了图/文生视频、AI换脸、大语言模型之后，用AI造谣和诈骗的门槛不存在了，谁都可以做出以假乱真的AIGC内容”，6月21日，瑞莱智慧CEO田天这样解释产品研发的初衷，“因此我们推出针对个人用户的AIGC检测能力，并且针对个人用户的习惯提供实时主动检测。帮助大家在真假混杂的数字空间里用AI对抗AI。”

“RealBelieve希望能成为帮助您抵御AI诈骗、辨别AI合成内容的可靠伙伴”， RealBelieve产品试用申请网页的上方有这么一行字。用户填写手机号码、个人基本信息，并回答数个有关AI合成内容的问题，即可提交申请。

在与北京商报记者交流时，瑞莱智慧联合创始人萧子豪也多次强调，推出RealBelieve是因为用户需求高涨，“公司对外有很多联系方式，我们通过这些渠道收到了不少用户对AI鉴伪的需求”。

其实，AIGC真假难辨久矣。破圈的合成图包括但不限于特斯拉CEO马斯克和“机器人女友”的亲密照、AI生成的美国前总统特朗普被捕图。在视频通话中遇到“假人”，转账至指定账号的遭遇，也不是孤例。

根据公开数据，近年来，我国AI诈骗案件数量及涉案金额均呈现指数级增长。2023年，我国被公开报道的AI诈骗案涉案金额已达数千万元。2024年初，某全球顶尖工程咨询公司香港分部职员遭遇AI诈骗，仅此一案就已导致该公司受损2亿港元。

抛开用户需求，原本to B（企业）的瑞莱智慧，推出to C的AI鉴伪工具不难理解。“很多to B的服务其实最终都是面向C端的，to C产品可以绕开B端直接面对用户，拿到数据。既然公司有现成的技术积累，试试水有何不可”，比达分析师李锦清告诉北京商报记者。

做实时，交互要简单

瑞莱智慧成立于2018年，产品及解决方案主要围绕AI治理，先后推出生成式人工智能内容检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品。

基于以往的产品经验，“我们发现，简化交互对C端用户来说是个重要的问题。政企用户采取的交互操作对C端用户而言比较复杂”，萧子豪向北京商报记者透露。

目前，RealBelieve主要采用拖拽上传的交互方式。具体点说，RealBelieve为终端用户提供文本、图片、视频和音频多种模态的文件上传检测服务，用户拖拽、上传文件即可检测，还可以通过浏览器插件的形式实时提示用户所浏览网页的疑似AI合成内容。

针对视频通话场景，RealBelieve可为用户提供视频通话AI合成实时监测防护。在视频通话时，用户不需要手动录制和上传会议视频，产品会及时给用户发出预警内容，提示视频对方的人脸是否存在AI合成的风险。实时的风险提示可以帮助用户及时调整聊天方式，快速确认对方的身份，减少不必要的损失。

介绍上述功能时，瑞莱智慧方面以某视频会议的视频通话场景为例，如使用RealBelieve，用户视频通话时会在页面出现提示框显示内容真伪，扫描结果红色为伪造，绿色为非伪造。

有意义，但早不早？

事实上，RealBelieve并不是第一个to C的AI鉴伪产品。2019年10月，国内另一家人工智能公司已发布多模态AI生成信息智能检测应用小程序“星眼鉴”，这款工具可以鉴别出用户上传的视频或图像是否为AI生成的伪造数据。根据产品描述，RealBelieve与星眼鉴相比，差异点在于实时、可鉴别的内容形式更丰富。

放大到国际市场，OpenAI将推出一款工具，用于检测由AI图像生成器DALL-E 3创建的图像。微软开发了一种身份验证工具，可以分析照片或视频，并对其是否被操纵给出评分。

RealBelieve背后的检测模型基于贝叶斯深度学习技术开发。据萧子豪介绍，团队构建了一整套多模态AIGC检测技术体系，能够挖掘并建模多模态、多层次、多角度的AI合成线索，度量真假差异，并进行不确定性推理决策。

回归产品本身，北京商报记者发现，目前苹果、安卓应用商店及微信、支付小程序中，均已搜索不到“星眼鉴”。“针对用户做AI鉴伪是有意义的，但是不是有点过早了”，文渊智库创始人王超向北京商报记者表示，“毕竟大模型的应用还在初期，而且比想象中慢。”从业者要回答这个问题，或许需要时间。

北京商报记者 魏蔚