网易首页 > 网易号 > 正文 申请入驻

全新多模态交互开发套件发布!让AI硬件能听、会看、可交互

0
分享至

刚刚,在阿里云通义智能硬件展上,阿里云全新发布多模态交互开发套件。该套件集成了千问、万相、百聆三款通义基础大模型,并预置十多款生活休闲、工作效率等领域的Agent和MCP工具,不仅能听、会看,还能思考并且与物理世界交互,可应用于AI眼镜、学习机、陪伴玩具、智能机器人等硬件设备。


随着多模态大模型的发展,大模型已开始具备理解、感知以及和物理世界交互的能力,越来越多的硬件和终端设备厂商开始通过接入大模型来提升交互体验。然而,仅靠基础大模型仍无法同时满足硬件设备对低成本、低时延、功能丰富和高质量效果的需求。

阿里云多模态交互开发套件为硬件企业和解决方案商提供了低开发门槛、响应速度快、场景丰富的平台。


适配30多款终端芯片,硬件可快速接入

在芯片层面,该套件适配了30多款主流ARM、RISC-V和MIPS架构终端芯片平台,满足市面上绝大多数硬件设备的快速接入需求。

未来,通义大模型还将与玄铁RISC-V实现软硬全链路的协同优化,实现通义大模型家族在RISC-V架构上的极致高效部署和推理性能。


集成通义大模型,搭配AI硬件交互专有模型

在模型优化层面,除通义模型家族外,阿里云还针对大量多模态交互场景进行分析,推出适合AI硬件交互的专有模型,全面支持全双工语音、视频、图文等交互方式,端到端语音交互时延低至1秒,视频交互时延低至1.5秒。

预置MCP工具与Agent,接入百炼平台生态

此外,该套件预置十多款MCP工具和Agent,覆盖生活、工作、娱乐、教育等多个场景。例如,基于预置的出行规划Agent,用户可直接调用路线规划、旅行攻略、吃喝玩乐探索等能力。

该套件还接入了阿里云百炼平台生态,用户不仅可以添加其他开发者提供的MCP和Agent模板,还能通过A2A协议兼容三方Agent,极大程度地扩展了应用的能力边界,帮助企业灵活搭建业务场景。


现场,阿里云还展示了面向智能穿戴设备、陪伴机器人、具身智能等领域的解决方案。

例如,在AI眼镜领域,基于千问VL、百聆CosyVoice等模型,阿里云打造了感知层、规划层、执行层以及长期记忆的完整交互链路,可一站式实现同声传译、拍照翻译、多模态备忘录、录音转写功能,有效解决交互不自然、回答准确率低的难题。


面向家庭陪伴机器人场景,基于千问模型和多模态交互套件,阿里云推出的解决方案不仅可实时监测异常状况,并及时告警信息推送,用户还能基于关键词查找、定位视频,与机器人进行对话交互和控制设备等。


更多AI硬件场景
就在阿里云通义智能硬件展

等待大家解锁







特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
76岁的万科创始人王石,最近彻底成了全网焦点。

76岁的万科创始人王石,最近彻底成了全网焦点。

梦录的西方史话
2026-04-23 14:36:39
全球目光锁定北京,莫迪敲锣打鼓出发了:全球宣讲,挽回印度声誉

全球目光锁定北京,莫迪敲锣打鼓出发了:全球宣讲,挽回印度声誉

面包夹知识
2026-05-14 20:25:44
最新战报!国羽2胜6负,石宇奇横扫进8强,4项剩独苗,男双3连败

最新战报!国羽2胜6负,石宇奇横扫进8强,4项剩独苗,男双3连败

刘姚尧的文字城堡
2026-05-14 16:35:31
网友怀疑自助餐加了饱腹剂 记者调查揭开真相

网友怀疑自助餐加了饱腹剂 记者调查揭开真相

大唐
2026-05-13 18:58:18
沃西:湖人已经不是家族管理模式,必须要求詹姆斯尽快做决定

沃西:湖人已经不是家族管理模式,必须要求詹姆斯尽快做决定

懂球帝
2026-05-14 15:05:24
突发利空!A股跳水、超4300家下跌,中际旭创市值1.2万亿

突发利空!A股跳水、超4300家下跌,中际旭创市值1.2万亿

说故事的阿袭
2026-05-14 17:20:05
东契奇出的难题,湖人如何高薪留里夫斯同时,还能升级内线和侧翼

东契奇出的难题,湖人如何高薪留里夫斯同时,还能升级内线和侧翼

兵哥篮球故事
2026-05-13 20:06:57
湖人内部矛盾加剧,传詹东互相厌恶,詹姆斯立雕像基本无望

湖人内部矛盾加剧,传詹东互相厌恶,詹姆斯立雕像基本无望

艺兔体坛
2026-05-14 16:25:13
雷军主动找马斯克合影,库克也来凑热闹

雷军主动找马斯克合影,库克也来凑热闹

鞭牛士
2026-05-14 19:22:15
不演了!Coco高调晒千万珠宝,坦言自己不缺钱,不需要靠直播度日

不演了!Coco高调晒千万珠宝,坦言自己不缺钱,不需要靠直播度日

娱乐团长
2026-05-13 14:23:46
糖尿病患者总在半夜3点醒来,可能暗示这3个并发症,需注意

糖尿病患者总在半夜3点醒来,可能暗示这3个并发症,需注意

健康之光
2026-05-14 17:35:56
“已建好的都不敢开业”,民营医院已倒闭4000家

“已建好的都不敢开业”,民营医院已倒闭4000家

健识局
2026-05-14 19:25:57
马斯克空降中国,不是为了造车!他盯上比芯片还重要的资源——电

马斯克空降中国,不是为了造车!他盯上比芯片还重要的资源——电

蜉蝣说
2026-03-22 22:39:38
射程超过35000公里,俄军方:可经南极至美国境内目标的“世界上最强大导弹”试射成功

射程超过35000公里,俄军方:可经南极至美国境内目标的“世界上最强大导弹”试射成功

红星新闻
2026-05-13 13:21:19
孙颖莎夺冠第一个抱住的人,不是马琳不是邱贻可,而是当陪练的她

孙颖莎夺冠第一个抱住的人,不是马琳不是邱贻可,而是当陪练的她

白面书誏
2026-05-13 17:25:06
吴签提前出来了!?

吴签提前出来了!?

八卦疯叔
2026-05-14 11:00:18
礼宾司看了大会堂的宴会大厅后,觉得太寒酸,就像公社大食堂

礼宾司看了大会堂的宴会大厅后,觉得太寒酸,就像公社大食堂

雍亲王府
2026-05-11 18:40:04
小杨阿姨确实被边缘化了,满脸落寞,霖儿生日缺席带午饭公园直播

小杨阿姨确实被边缘化了,满脸落寞,霖儿生日缺席带午饭公园直播

老吴教育课堂
2026-05-14 18:01:20
特朗普前脚刚定访华,普京后脚就抢先出牌!这波操作到底防谁

特朗普前脚刚定访华,普京后脚就抢先出牌!这波操作到底防谁

风起见你
2026-05-14 20:21:23
马斯克2个月连发26条种族帖,只为攻击诺兰2.5亿新片选角

马斯克2个月连发26条种族帖,只为攻击诺兰2.5亿新片选角

热搜摘要官
2026-05-14 06:45:33
2026-05-14 21:20:49
阿里云云栖号
阿里云云栖号
阿里云官方内容社区!
3448文章数 867关注度
往期回顾 全部

科技要闻

马斯克说会谈很顺利 黄仁勋点赞 库克比耶

头条要闻

老人携带170万"现金"到银行存款 柜员发现全是练功券

头条要闻

老人携带170万"现金"到银行存款 柜员发现全是练功券

体育要闻

争议抽象天王山,和季后赛最稳定中锋

娱乐要闻

何九华官宣当爸!全程不提孩子妈

财经要闻

李强会见美国工商界代表

汽车要闻

双零重力座椅/AI智能体/调光天幕 启境GT7内饰发布

态度原创

亲子
游戏
数码
房产
旅游

亲子要闻

中国爸、外国妈,我们姐弟仨眼睛都是什么颜色?

PS5独占《战神》新作爆料引热议 还有中国神话的事!

数码要闻

三星承诺将打造更节能的智能家电,旗下产品可帮用户“省电费”

房产要闻

海南楼市新政要出!拟调公积金贷款额度,最高可贷168万!

旅游要闻

自贡第七届原创短视频大赛走进大安:不是马尔代夫去不起,而是“牛尔代夫”更有性价比!

无障碍浏览 进入关怀版