网易首页 > 网易号 > 正文 申请入驻

能耗比达到GPT-4 10倍!黄学东亲自解密Zoom AI的成功之道,AI伴侣直接替你开会

0
分享至


新智元报道

编辑:润 alan

【新智元导读】Zoom CTO黄学东发文,讨论了Zoom对于高效处理AI任务需求采用的技术——Zoom联邦AI。达到GPT-4性能的同时,Zoom AI只用了不到10%的成本。

近日,AI大佬,现任Zoom CTO的黄学东,在自家的官网上发表了一篇博客。


其中隆重介绍了自己加入Zoom六个月之 后创新的成果——Zoo m AI Companion,以及驱动Zoom AI Companion的Zoom联邦(federated approach)AI。

在Zoom之前,黄学东曾担任微软Azure AI首席技术官,他不仅是微软首位全球华人技术院士,也是微软最高级别的华人科学家。

黄学东在微软任职了超过30年,在他的牵线搭桥下,微软于1998年在北京建起第一个亚洲研究院。

在2017年和2020年,黄学东分别当选ACM和IEEE会士,并于2023年同时当选美国国家工程院院士和美国艺术与科学院院士。


黄学东表示,人工智能从概念化到实现的转型之旅,就像一条曲折的道路,充满了不断的破坏、适应和创新。

「在过去的 30 年里,我一直走在这条道路上,从语音识别、自然语言理解,到计算机视觉。在我加入 Zoom 的过去六个月里,创新的步伐尤其令人震惊。」

Zoom联邦AI,用合适的AI跑合适的任务

Zoom希望使用AI来改善人类协作方式,不断提高生产力。

多年来,Zoom一直在为客户提供语音识别、计算机视觉、机器翻译和大型语言模型(LLM)等AI服务,以增强自家软件的竞争力。

他们的最新产品Zoom AI Companion,旨在帮助用户提高工作效率、促进无缝协作并获得更深入的交流和见解。

Zoom的联邦AI,能够使用户在之前付费服务的基础上,不用额外花钱就能享受AI Companion的功能。

这样能够大大提升用户的体验,还能快速提高新技术的在用户中的渗透率。

但是对于Zoom这样拥有大量用户,高强度使用AI功能的软件,LLM推理的额外成本怎么负担呢?

要知道,GitHub的Copilot被传说,每月收费10刀,依然每个用户每月还要补贴20刀。


Zoom目前使用的LLM包括自有模型和第三方的模型(如OpenAI GPT-3.5和GPT-4,以及Anthropic Claude 2)。

Zoom联邦AI,可以整合来自合作伙伴的最新的LLM技术(例如OpenAI最新发布的GPT-4 Turbo),进一步改善Zoom客户的端到端体验。

Zoom采用了具有更好成本效益的策略:

首先使用合适的低成本LLM来完成任务,然后通过Z-Scorer评估初始任务完成质量。

在有需要的情况下,Zoom会使用更高级的LLM, 对初始LLM所获得的成果进行改进。

——这类似于一个有凝聚力的团队协同工作,能够比一个人更高效地生产更高质量的产品。

根据Zoom的内部测试,与OpenAI GPT-3.5 Turbo或其他几种最先进的LLM相比,Zoom采用联邦AI提高了AI Companion的输出质量,还有效地控制了成本。

黄学东表示,他们衡量性能的标准是更低的成本、更快的响应时间和更高质量的输出。


上图是Zoom AI Companion与GPT-4在英文会议查询任务上的性能和成本对比。

图中比较的两个关键指标为成本和输出质量。

Zoom AI Companion只用了不到GPT-4 6%的成本,就能达到几乎相当的输出质量。

与微软Copilot使用的GPT-4-32k模型相比,Zoom AI Companion的会议提问功能,可降低成本,加快响应速度,同时保持相当的输出质量。


上图是Zoom AI Co mpanion与GPT-4在多语言 会议摘要任务上的对比。

此外,AI Companion的多语言性能,进一步证明了Zoom联邦AI的强大功能,支持除英语之外的32种语言。

由于大多数LLM主要是使用英语数据进行预训练,所以Zoom增加了翻译模型来扩展多语言能力。

上图对比了Zoom AI Companion与Microsoft Copilot在多语言会议摘要任务中的表现,同样使用GPT-4作为Microsoft Copilot的代理来进行对比。

在Zoom AI Companion的多语言会议摘要中,使用Zoom的翻译模型将非英语文本翻译成英语,这样能同时考虑翻译数据与原始数据。

从图中可以看出,Zoom AI Companion以不到6%的成本完成了质量接近于GPT-4-32k的输出(97%)。

Zoom相信,人工智能的好处应该让尽可能多的人广泛使用,而Zoom的联邦AI能够无缝结合不同AI系统的优势,提供高性能结果,在实现这一愿景方面发挥着重要作用。

Zoom AI Companion,最智能的会议助手

而Zoom现在几乎所有AI功能的入口,都集中在了他们9月底推出的Zoom AI Companion上。

作为Zoom提供的「充值服务」,它利用Zoom提供的AI能力,能帮助你在中途加入会议之后,自动总结错过的会议内容。

然后轮到你发言时,结合你的观点和之前会议的内容,生成发言稿,真的做到了「替代用户开会」。


在半程加入会议之后,AI可以告诉你会议的重点。

还能帮你实时转录翻译其他参会者发言,一键获取会议讨论文本。


AI还能帮你把碎片化的信息归纳出来,最后为团队生成会议总结和记录。

还能把Zoom平台上获得的客户短信息进行总结,生成具体的执行方案。


而且对于参加不了的会议,还可以在日程表上直接安排AI智能录制,之后分段分重点回看。


而这整个AI伴侣背后,都凝结了Zoom和黄学东联邦AI的技术思路,用合适的AI资源去处理合适的请求。


而且Zoom承诺,不会使用用户的任何音频、视频、聊天、屏幕共享、附件或客户生成的内容(例如投票结果、白板)等其他数据来训练Zoom或第三方的AI。

这么多好用的功能,这么负责的AI,需要花多少钱呢?

150刀到200刀就能用一年,企业用户还有专门的定制版本。


参考资料:

https://blog.zoom.us/zoom-federated-ai-maximizes-performance-quality-affordability/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京体验全球最大、最重战略轰炸机飞行30分钟,透露已批量生产“锆石”高超音速导弹

普京体验全球最大、最重战略轰炸机飞行30分钟,透露已批量生产“锆石”高超音速导弹

红星新闻
2024-02-23 17:11:11
上海出轨张老师曝大量美照,难怪16岁男主挡不住,换你也把持不住

上海出轨张老师曝大量美照,难怪16岁男主挡不住,换你也把持不住

辣条小剧场
2024-02-20 08:00:10
张卫健低调庆60大寿!评论区炸了:我不信,他一根白头发都没有!

张卫健低调庆60大寿!评论区炸了:我不信,他一根白头发都没有!

八卦爱侃娱
2024-02-23 15:15:38
著名演员佘诗曼在香港的“豪宅”,没看错吧,也就4-50平方米

著名演员佘诗曼在香港的“豪宅”,没看错吧,也就4-50平方米

静静时光
2024-02-23 12:52:56
《红岩》作者罗广斌,熬过渣滓洞的四百天,却没能挺过六天批斗

《红岩》作者罗广斌,熬过渣滓洞的四百天,却没能挺过六天批斗

南极狼人
2024-02-23 14:28:09
悉尼大学180身高男小三被锤,全网热议,信息量太大

悉尼大学180身高男小三被锤,全网热议,信息量太大

澳洲红领巾
2024-02-23 14:23:40
公然“造假”,却被央视吹爆!毁三观的AI产品,凭啥价值千亿?

公然“造假”,却被央视吹爆!毁三观的AI产品,凭啥价值千亿?

金错刀
2024-02-22 16:20:16
国家已有所预感:西方围剿中国“粮食安全”的战争,可能才刚开始

国家已有所预感:西方围剿中国“粮食安全”的战争,可能才刚开始

允华说
2024-02-23 10:42:23
叛逃至乌的俄飞行员被害细节披露:死前一直被监视,有严重酗酒且滥用药物习惯

叛逃至乌的俄飞行员被害细节披露:死前一直被监视,有严重酗酒且滥用药物习惯

红星新闻
2024-02-23 20:52:18
世卫组织总干事谭德塞:新冠可能是我们的第一个“X疾病”

世卫组织总干事谭德塞:新冠可能是我们的第一个“X疾病”

齐鲁壹点
2024-02-23 10:05:25
列车乘客指责工作人员不该在餐车吃饭,当事人:自己被吵到才言论过激

列车乘客指责工作人员不该在餐车吃饭,当事人:自己被吵到才言论过激

极目新闻
2024-02-23 20:18:56
李雪主:金家看中,男友被除,击败多名竞争者,靠一招征服金正恩

李雪主:金家看中,男友被除,击败多名竞争者,靠一招征服金正恩

阿胡
2024-02-22 11:37:05
2024年,一些人的苦日子要来了

2024年,一些人的苦日子要来了

大胡子说房
2024-02-23 12:14:19
美加码打压中芯国际 专家:已有心无力

美加码打压中芯国际 专家:已有心无力

环球时报国际
2024-02-23 07:20:54
成都蓉城官宣6大新援加盟:免签28岁国脚韦世豪!250万引进严鼎皓

成都蓉城官宣6大新援加盟:免签28岁国脚韦世豪!250万引进严鼎皓

我爱英超
2024-02-23 20:24:35
多地血液库存告急:深圳献血者降至低谷,厦门各型全血低位运行

多地血液库存告急:深圳献血者降至低谷,厦门各型全血低位运行

澎湃新闻
2024-02-23 14:50:28
欧联杯1/8决赛抽签:利物浦+勒沃库森抽大礼包,罗马PK布莱顿

欧联杯1/8决赛抽签:利物浦+勒沃库森抽大礼包,罗马PK布莱顿

侃球熊弟
2024-02-23 19:22:40
做芯片的终于击败了做矿泉水的!刚刚,华人首富易主,黄教主登顶!

做芯片的终于击败了做矿泉水的!刚刚,华人首富易主,黄教主登顶!

EETOP半导体社区
2024-02-23 11:26:21
胡明朗再度进京任应急部副部长,节前曾突击检查春运消防安全

胡明朗再度进京任应急部副部长,节前曾突击检查春运消防安全

南方都市报
2024-02-23 15:31:10
明日元宵节,提醒中老年:1不去、2不丢、3不说、4不洗,别大意了

明日元宵节,提醒中老年:1不去、2不丢、3不说、4不洗,别大意了

阿龙美食记
2024-02-23 10:05:17
2024-02-23 21:40:49
新智元
新智元
AI产业主平台领航智能+时代
10707文章数 65291关注度
往期回顾 全部

科技要闻

华为再发新款小折叠 或加速折叠屏走向普及

头条要闻

叛逃至乌的俄飞行员有严重酗酒习惯 死前一直被监视

头条要闻

叛逃至乌的俄飞行员有严重酗酒习惯 死前一直被监视

体育要闻

在NBA赚了3亿美元 他凭的是一身本事

娱乐要闻

王阳高斯登顶热搜,一家同框幸福满溢

财经要闻

证监会:目前没有IPO倒查10年的安排

汽车要闻

内饰动力全面升级 第九代凯美瑞将上市

态度原创

时尚
本地
房产
旅游
艺术

仪式感重要吗?这件事情上必须是

本地新闻

寻年味 过大年| 元宵节来永清,一起赏百米神龙和特色灯会

房产要闻

35亿!北京住总摘得昌平百善镇0004等地块

旅游要闻

台州一知名景区部分区域临时封闭

艺术要闻

在成都看「永恒的巴黎」人文摄影大师维利·罗尼摄影展

无障碍浏览 进入关怀版