网易首页 > 网易号 > 正文 申请入驻

首个通过“视频图灵测试”的模型来了?视频通话1分钟,近半数人没认出它是AI

0
分享至



这家数字人公司把感知、对话和视频生成放进了同一个模型。

在 Tavus 放出的一段演示视频中,用户 Sagar 正在焊接一块电脑主板,屏幕里的 AI 一边观察他的操作,一边提示下一步该怎么做。当 Sagar 停下手里的活儿、半天不说话时,AI 并没有急着搭话。它清楚已经过了多长时间、手头的进度到了哪一步,直到该进行下一步时才开口提醒。

人与人之间这样的配合再平常不过,但对 AI 来说却很不容易。现有的语音助手和数字人大多要等用户完全停下来才开始响应,它们往往把沉默当成轮到自己说话的信号;用户只要稍有停顿,AI 就可能抢着接话。

这段演示来自 Tavus 10 月 1 日发布的新模型 Griffin。这家 AI 视频公司将 Griffin 定义为首个“人类交互模型”(Human Interaction Model,HIM),也就是专门用于理解和生成实时面对面交流的模型。本次发布的是研究预览版 Griffin-Lite。

Tavus 此前组织了一项测试:54 名受试者与它进行了 1 分钟的视频通话,其中 26 人(48%)误以为对方是真人。在英伟达的全双工音视频对话基准 VideoFDB 上,它的生成得分达到 3.83 分(满分 5 分),而真人基准为 3.92 分。

Griffin 是一个全双工的“视频到视频”模型。所谓全双工,是指双方可以同时说话、实时做出反应,能像真人聊天那样互相打断、点头附和、话语交叠。

Tavus 公布的其他几段演示也都在展现这一点:用户分享自己升职的消息时,AI 形象 Vanessa 没等他说完就有了表情和声音反馈,两人抢着说了几句,话题也完全没断;用户和它玩“西蒙说”游戏,它只在对方念出口令时才跟着做手势,如果对方省略了口令,它便会当场点破;用户转动魔方时,它会盯着魔方的变化持续回应,对方中途停下来思考,它就在一旁安静等待。


图丨Griffin的架构(来源:Tavus)

这些演示试图解决的,是当前实时数字人在架构上的硬伤。业内传统的做法是级联式系统:先用语音识别将用户的话转成文字,再交由大语言模型生成回复,随后用语音合成读出来,最后由形象模型去驱动口型与表情。Tavus 自己过去走的就是这条路。

Tavus 由 Hassaan Raza 和 Quinn Favret 于 2020 年创立,孵化自 Y Combinator,总部位于旧金山。公司最早做的是面向销售与营销团队的个性化视频:销售人员只需录制一段基础视频,系统就能自动替换客户姓名、公司等信息,批量生成一对一的推销视频,Meta 和 Salesforce 都曾用它给企业客户发送产品演示。

2024 年 3 月,Tavus 完成了由 Scale Venture Partners 领投的 1800 万美元 A 轮融资,当时其自研的 Phoenix 模型已经能用 2 分钟的视频素材生成个人的数字分身。

此后,公司把业务重心转向了实时对话视频。2025 年 11 月,Tavus 又完成了由 CRV 领投、红杉资本及 Y Combinator 等跟投的 4000 万美元 B 轮融资,累计融资金额约 7000 万美元。在上一代对话视频系统中,Tavus 使用了三个模型进行级联:Phoenix-4.5 负责渲染,Sparrow-2 负责把握对话节奏,Raven-1 负责多模态感知。

在做了几代级联系统之后,Tavus 在 Griffin 的技术文档中直言了这种架构的弊端:系统内部每交接一次,就会增加一层延迟,同时损失一部分信息。比如语气中的细微变化在转成文字后就丢失了,系统也无法在对方说话的同时进行附和或插话。这种机制的结果就是用户反过来要迁就机器,不得不调整自己的说话节奏、简化用词,刻意避免冷场。Raza 在发布声明中也谈到,AI 如今已经变得非常聪明,但人们依然得按照机器的习惯去和它交流。

Griffin 换了一种思路,将感知、决策和生成整合进一个端到端系统,让三者并行运行。这套方案出自 Tavus 的科研团队,由研究负责人、伦敦玛丽女王大学教授 Ioannis Patras,以及帝国理工学院情感与行为计算教授 Maja Pantic 共同领衔。两人长期从事人脸与非语言行为分析的研究,Pantic 此前还曾在 Meta 主管过 AI 科研工作。

Tavus 表示,该团队成员的学术论文累计被引用已超过 9 万次,伦敦玛丽女王大学也参与了 Griffin 的联合研发。

整个系统由两大部分构成。第一部分是“连续对话建模引擎”,它会同时接收用户的音频与视频信号。该引擎不再遵循传统“你说完一句、我再接一句”的轮流模式,而是以不足 1 秒的“微轮次”持续评估当前的对话状态,以此来判断这一刻究竟该开口说话、继续倾听、让出话轮、随声附和,还是保持安静。

它输出的是一组控制信号,不仅决定回复什么内容,还决定以怎样的方式呈现,包括说话的时机、身体姿态、面部表情、手势动作以及情绪和语气。

第二部分是“音视频生成引擎”,负责将这些控制信号实时转化为声音与画面,音频与视频各有一套流式生成架构。语音方面,Tavus 自研了名为 Tavec 的音频编解码器,能把 48kHz 的音频压缩为连续的潜在表示(每帧 40 个数值,每秒 100 帧),期间不使用离散码本。

其解码器严格遵循因果逻辑,能以最小 10 毫秒的数据包实现边生成边播放。在这套表示层之上,由一个自回归扩散 Transformer 模型负责生成语音,通常只需约 10 秒的参考音频就能克隆一个人的声音。

视频方面则采用了一个步数较少的自回归扩散生成器,并搭配 VAE 解码器。只需一张参考照片,就能输出 720p、每秒 25 帧的动态画面。每个潜在表示对应 8 帧画面(即 320 毫秒的视频),仅需扩散 3 步即可完成实时渲染。

在生成过程中,模型还能随时接收有关手势、视线和情绪的控制信号。它生成的也不单单是一张面孔,人物的肢体与背景同样是逐帧渲染出来的。

为了确保画面在长时间对话中不会失真或漂移,Tavus 采用了三阶段蒸馏训练:先进行分布匹配蒸馏(DMD),随后进行教师强制(teacher forcing)训练,最后引入自强制(self-forcing)训练。

根据 Tavus 公布的数据,在英伟达 H100 上,从音频输入到视频输出的平均延迟为 0.43 秒,比目前已公开的最快方案还要低上一半。在纯音频驱动视频模式下,Griffin 在 DOVER、FID 和 THEval 三项画面质量指标上均位列 5 种对比方案之首,口型同步指标 LSE-C 则排名第二。

评测结果主要分为两组。第一组来自 VideoFDB,这是英伟达研究团队于今年 5 月发布的评测基准,也是业内首个针对全双工音视频对话智能体的基准测试。其测试素材取自真实的视频通话,共有 237 段双人对话片段,涵盖了视线回避、停顿、附和以及话轮转换等 11 类非语言交流场景。该基准设有“生成”和“感知”两个赛道,均由大语言模型根据打分规则进行客观评审,开发者提交模型输出后由英伟达统一打分。


图丨VideoFDB 基准测试结果(来源:Tavus)

在考察模型自身表现的“生成赛道”中,Griffin-Lite 拿到了 3.83 分,排在第二名的是基于 Gemini 2.5 搭配 Anam 数字人的级联方案(2.80 分)。从分项数据来看,Griffin-Lite 在“双人情感呼应”上拿到了 4.40 分,甚至高出真人基准(4.14 分);但在“非语言线索恰当性”上得分为 2.83 分,略低于真人的 3.18 分。两者的差距主要体现在响应速度上,Griffin-Lite 的中位响应时间为 1892 毫秒,而真人的反应时间大约在 900 毫秒左右(NVIDIA,2026)。

在考察模型能否准确理解当下情境的“感知赛道”中,Griffin-Lite 的得分是 3.73 分(真人基准为 4.20 分),作为对比,开源模型 MiniCPM-o 4.5 得分为 3.40 分,OpenAI 的 gpt-realtime 与谷歌的 Gemini 3.1 Flash Live 则分别为 2.75 分和 2.84 分。

第二组数据来自 Tavus 自己组织的真人实测。受试者招募自一个独立的研究平台,他们在测试前只被告知需要与另一名参与者进行 1 分钟的视频通话,聊聊今年自己最期待的事情。通话结束后,受试者先要填写对对方的多项主观评价,问卷直到最后一题才问:在刚才的通话中,是否想过对方可能不是真人?

在与 Griffin-Lite 通话的 54 人中,有 26 人(48%)认为对方就是真人。而在同样的测试流程下,上一代系统的这项数据仅有 2.4%(41 人中仅 1 人认为是真人)。判断对方是真人的受试者,平均确信度为 79%;判断对方是 AI 的受试者,平均确信度为 81%。

Tavus 还提到,那些察觉到异样的受试者,大多在前 20 秒内就产生了怀疑。不过这项研究完全由 Tavus 自行开展,样本量相对有限、单次通话时间较短,且没有设置与真人通话的盲测对照组。

目前,Griffin 尚未接入 Tavus 的商业化平台。该平台上现有超过 15 万名开发者和企业用户,包括亚马逊、梅奥诊所(Mayo Clinic)和 Salesforce 等客户,主要将数字人应用于招聘面试、销售拓展、教育培训以及客户服务等领域。

Griffin-Lite 现阶段并不对这些客户开放,仅提供给少数受信任的测试人员,能力更为完善的完整版 Griffin 将在后续推出。Tavus 为其规划的应用场景包括一对一课外辅导、协助员工预演棘手对话,以及文章开头提到的那种看着用户实操并随时提供技术指导的陪伴场景。

至于暂不对外开放的原因,Tavus表示:正是那些让模型表现得像真人一样自然的交互特质,会让人极易误以为自己在与一个真正的人交谈。自今年 8 月 2 日起适用的欧盟《人工智能法案》第 50 条明确规定,凡是与人类直接交互的 AI 系统,必须明确让用户知晓对方的 AI 身份。

Tavus 表示,团队正在加紧开发“安全披露”(强制身份告知)功能,并正与相关的 AI 安全组织展开合作,待这些合规与安全问题解决后会“很快”推出 Griffin,但目前尚未公布具体的时间表和定价方案。

参考资料:

1. https://www.tavus.io/griffin#intro

注:封面/首图由 AI 辅助生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国U23男足战胜乌兹别克斯坦,28年来首获亚运铜牌

中国U23男足战胜乌兹别克斯坦,28年来首获亚运铜牌

澎湃新闻
2026-10-03 16:43:08
战略大调整!马琳官宣国乒新布局,王曼昱淡出洛杉矶奥运培养计划

战略大调整!马琳官宣国乒新布局,王曼昱淡出洛杉矶奥运培养计划

体育见习官
2026-10-03 16:48:58
随着日本0-1,亚运会男足冠军、亚军、季军全部诞生

随着日本0-1,亚运会男足冠军、亚军、季军全部诞生

侧身凌空斩
2026-10-03 20:22:40
创历史!“小孩姐”孙心然2-0爆冷27号种子 成中网最年轻32强

创历史!“小孩姐”孙心然2-0爆冷27号种子 成中网最年轻32强

醉卧浮生
2026-10-03 19:50:32
兰兰继续「无人认领」 ,华人已被排斥……

兰兰继续「无人认领」 ,华人已被排斥……

家传编辑部
2026-10-03 12:20:03
“家长将12岁男孩独留出租房”后续:男孩已搬离,家长回应“拖欠超7万元租金等费用”,称交给执行局来做

“家长将12岁男孩独留出租房”后续:男孩已搬离,家长回应“拖欠超7万元租金等费用”,称交给执行局来做

红星新闻
2026-10-03 20:12:24
迪拜客机驾驶舱血案调查曝惊人动机,阿以罕见同时定性为恐袭,副驾驶曾因极端观点被前东家禁飞,飞行员筛查能否识别隐蔽风险

迪拜客机驾驶舱血案调查曝惊人动机,阿以罕见同时定性为恐袭,副驾驶曾因极端观点被前东家禁飞,飞行员筛查能否识别隐蔽风险

澎湃新闻
2026-10-03 14:59:03
花旗重磅报告:中国住房供应下降 30%!第三轮房价上涨很快开启

花旗重磅报告:中国住房供应下降 30%!第三轮房价上涨很快开启

专业聊房君
2026-10-02 18:51:25
33岁上海老师泰国失联,错失2次活命机会,使馆介入 幕后套路惊心

33岁上海老师泰国失联,错失2次活命机会,使馆介入 幕后套路惊心

潋滟晴方DAY
2026-10-03 15:38:07
记者:李昊的下家听说已经差不多确定了

记者:李昊的下家听说已经差不多确定了

懂球帝
2026-10-03 17:32:22
女选手晒马拉松个人最好成绩,称“前15km跑得很舒服”,结果被拍到坐自行车比赛!当事人凌晨道歉

女选手晒马拉松个人最好成绩,称“前15km跑得很舒服”,结果被拍到坐自行车比赛!当事人凌晨道歉

南方都市报
2026-10-03 15:32:29
亚运奖牌榜:中国169金89银83铜收官双项第一 创境外金牌历史第一

亚运奖牌榜:中国169金89银83铜收官双项第一 创境外金牌历史第一

醉卧浮生
2026-10-03 20:29:39
中国近代史百年风雨,为何唯独1976年,被称作“最诡异”的一年?

中国近代史百年风雨,为何唯独1976年,被称作“最诡异”的一年?

文史达观
2026-10-01 09:23:26
“丢脸”“可耻”!日本观众在亚运赛场举起旭日旗

“丢脸”“可耻”!日本观众在亚运赛场举起旭日旗

观察者网
2026-10-03 19:37:13
《大河报》报道劫机为以色列自导自演,是因为不专业吗?

《大河报》报道劫机为以色列自导自演,是因为不专业吗?

黔有虎
2026-10-03 18:12:13
美内政部证实:夏威夷火山国家公园标志性的霍莱海蚀拱门坍塌,坠入太平洋

美内政部证实:夏威夷火山国家公园标志性的霍莱海蚀拱门坍塌,坠入太平洋

环球网资讯
2026-10-03 16:08:17
震惊!两名中国男子持美国护照入境,在机场被逮捕

震惊!两名中国男子持美国护照入境,在机场被逮捕

大洛杉矶LA
2026-10-03 06:53:56
泽连斯基当着日本记者的面,直接把话点向中国:中国体量这么大

泽连斯基当着日本记者的面,直接把话点向中国:中国体量这么大

叶葉夜
2026-10-03 18:04:26
东航就空姐下跪事件报案,目击者最新回应:挺好的,我会积极配合调查,希望处理结果符合大众期望

东航就空姐下跪事件报案,目击者最新回应:挺好的,我会积极配合调查,希望处理结果符合大众期望

极目新闻
2026-10-03 22:41:15
四川巴中一新娘在婚礼前一天,开窗准备收袜子时不幸被马蜂蜇伤嘴唇,唇部明显肿胀,自嘲仿佛“蛤蟆精”

四川巴中一新娘在婚礼前一天,开窗准备收袜子时不幸被马蜂蜇伤嘴唇,唇部明显肿胀,自嘲仿佛“蛤蟆精”

潇湘晨报
2026-10-03 14:52:08
2026-10-03 23:04:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17334文章数 515224关注度
往期回顾 全部

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

头条要闻

女生遭美国常春藤名校7名男生下药性侵 最新后续来了

头条要闻

女生遭美国常春藤名校7名男生下药性侵 最新后续来了

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

马思纯一家爬山祈福!素颜出镜笑容甜

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

房产
健康
游戏
亲子
军事航空

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

刷酸祛痘,为什么有人翻车?

《羊蹄山》DLC新角竟是帅哥!只有"雨姐"丑b是故意?

亲子要闻

农家院里过节才叫热闹,大锅饭出锅招待亲戚,连吃带喝真过瘾

军事要闻

美国被指正向中东派遣第三艘航母

无障碍浏览 进入关怀版