网易首页 > 网易号 > 正文 申请入驻

全新多模态交互开发套件发布!让AI硬件能听、会看、可交互

0
分享至

刚刚,在阿里云通义智能硬件展上,阿里云全新发布多模态交互开发套件。该套件集成了千问、万相、百聆三款通义基础大模型,并预置十多款生活休闲、工作效率等领域的Agent和MCP工具,不仅能听、会看,还能思考并且与物理世界交互,可应用于AI眼镜、学习机、陪伴玩具、智能机器人等硬件设备。


随着多模态大模型的发展,大模型已开始具备理解、感知以及和物理世界交互的能力,越来越多的硬件和终端设备厂商开始通过接入大模型来提升交互体验。然而,仅靠基础大模型仍无法同时满足硬件设备对低成本、低时延、功能丰富和高质量效果的需求。

阿里云多模态交互开发套件为硬件企业和解决方案商提供了低开发门槛、响应速度快、场景丰富的平台。


适配30多款终端芯片,硬件可快速接入

在芯片层面,该套件适配了30多款主流ARM、RISC-V和MIPS架构终端芯片平台,满足市面上绝大多数硬件设备的快速接入需求。

未来,通义大模型还将与玄铁RISC-V实现软硬全链路的协同优化,实现通义大模型家族在RISC-V架构上的极致高效部署和推理性能。


集成通义大模型,搭配AI硬件交互专有模型

在模型优化层面,除通义模型家族外,阿里云还针对大量多模态交互场景进行分析,推出适合AI硬件交互的专有模型,全面支持全双工语音、视频、图文等交互方式,端到端语音交互时延低至1秒,视频交互时延低至1.5秒。

预置MCP工具与Agent,接入百炼平台生态

此外,该套件预置十多款MCP工具和Agent,覆盖生活、工作、娱乐、教育等多个场景。例如,基于预置的出行规划Agent,用户可直接调用路线规划、旅行攻略、吃喝玩乐探索等能力。

该套件还接入了阿里云百炼平台生态,用户不仅可以添加其他开发者提供的MCP和Agent模板,还能通过A2A协议兼容三方Agent,极大程度地扩展了应用的能力边界,帮助企业灵活搭建业务场景。


现场,阿里云还展示了面向智能穿戴设备、陪伴机器人、具身智能等领域的解决方案。

例如,在AI眼镜领域,基于千问VL、百聆CosyVoice等模型,阿里云打造了感知层、规划层、执行层以及长期记忆的完整交互链路,可一站式实现同声传译、拍照翻译、多模态备忘录、录音转写功能,有效解决交互不自然、回答准确率低的难题。


面向家庭陪伴机器人场景,基于千问模型和多模态交互套件,阿里云推出的解决方案不仅可实时监测异常状况,并及时告警信息推送,用户还能基于关键词查找、定位视频,与机器人进行对话交互和控制设备等。


更多AI硬件场景
就在阿里云通义智能硬件展

等待大家解锁







特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日专家:中国会求着修复对日关系,不然美国不高兴,中国承受不起

日专家:中国会求着修复对日关系,不然美国不高兴,中国承受不起

开着车去流浪
2026-01-15 00:46:25
赖清德怕斩首,韩国瑜新动作,郑丽文重磅举措,三天四大事件发生

赖清德怕斩首,韩国瑜新动作,郑丽文重磅举措,三天四大事件发生

千雪新说
2026-01-13 20:27:52
出席蒋经国纪念音乐会!蒋万安引名言:今天不做明天就会后悔

出席蒋经国纪念音乐会!蒋万安引名言:今天不做明天就会后悔

新时光点滴
2026-01-14 06:02:50
官方回应“新疆网红干部”贺娇龙意外坠马

官方回应“新疆网红干部”贺娇龙意外坠马

新浪财经
2026-01-14 15:01:59
美最高法院未就特朗普关税作出裁决

美最高法院未就特朗普关税作出裁决

界面新闻
2026-01-14 23:17:47
赛力斯向华为支付采购费200亿元

赛力斯向华为支付采购费200亿元

盖世汽车
2026-01-14 11:02:02
原来是放大招!泰山突袭1200万欧米兰旧将!豪门倒贴钱也要送走他

原来是放大招!泰山突袭1200万欧米兰旧将!豪门倒贴钱也要送走他

体坛小鹏
2026-01-14 16:15:33
为什么要保护老虎?如果老虎灭绝,将会对人类产生什么影响?

为什么要保护老虎?如果老虎灭绝,将会对人类产生什么影响?

半解智士
2025-12-28 22:42:12
合川杀猪宴仅2天,恶心事接连发生!多人吃相难看,坑惨当地文旅

合川杀猪宴仅2天,恶心事接连发生!多人吃相难看,坑惨当地文旅

笑饮孤鸿非
2026-01-13 15:32:06
连体裙:一副移动的建筑

连体裙:一副移动的建筑

疾跑的小蜗牛
2026-01-14 21:45:17
结三次婚、两度丧子,59岁无儿无女,王晶为何说张卫健一点都不惨

结三次婚、两度丧子,59岁无儿无女,王晶为何说张卫健一点都不惨

林雁飞
2026-01-14 21:32:27
王毅外长行程已改,中方发布通告;特朗普强力施压,中肯协议生变

王毅外长行程已改,中方发布通告;特朗普强力施压,中肯协议生变

现代小青青慕慕
2026-01-13 20:15:03
广西37岁孕妇纵欲成瘾,送医院抢救:“再舒服,也没有什么比生命更重要!”

广西37岁孕妇纵欲成瘾,送医院抢救:“再舒服,也没有什么比生命更重要!”

品读时刻
2026-01-14 09:05:04
省数据局的通报只有九百来字,我却读出了八百个心眼子

省数据局的通报只有九百来字,我却读出了八百个心眼子

大何日拱一卒
2026-01-13 23:00:16
再见,浓眉!再次轰动整个NBA

再见,浓眉!再次轰动整个NBA

章民解说体育
2026-01-14 14:40:15
乌克兰政坛突发变局!最高拉达否决新防长和能源部长任命

乌克兰政坛突发变局!最高拉达否决新防长和能源部长任命

花心电影
2026-01-15 00:46:08
痛心!河南帅哥小张去世,仅25,因母亲病重公司不批假想不开跳楼

痛心!河南帅哥小张去世,仅25,因母亲病重公司不批假想不开跳楼

鋭娱之乐
2026-01-14 08:52:03
跌停潮!有首席被老妈科普商业航天,知名基金经理50万赚40万,刚刚发声

跌停潮!有首席被老妈科普商业航天,知名基金经理50万赚40万,刚刚发声

金石随笔
2026-01-14 00:10:23
最新:委内瑞拉恢复原油出口

最新:委内瑞拉恢复原油出口

参考消息
2026-01-14 20:24:42
“这种儿子,直接用钢筋揍!”家长晒农村儿子现状,网友忍无可忍

“这种儿子,直接用钢筋揍!”家长晒农村儿子现状,网友忍无可忍

妍妍教育日记
2026-01-08 20:37:01
2026-01-15 01:31:00
阿里云云栖号
阿里云云栖号
阿里云官方内容社区!
3349文章数 962关注度
往期回顾 全部

科技要闻

携程因涉嫌垄断被市场监管总局调查

头条要闻

媒体:公开鼓动抗议者 特朗普新表态让全球嗅到火药味

头条要闻

媒体:公开鼓动抗议者 特朗普新表态让全球嗅到火药味

体育要闻

你是个好球员,我们就拿你交易吧

娱乐要闻

网红彭十六偷税被封杀 曾成功转型明星

财经要闻

携程被立案调查,最高或被罚超50亿

汽车要闻

曝Model Y或降到20万以内!

态度原创

教育
本地
亲子
健康
公开课

教育要闻

保底offer都拿到了,最值得继续加申的英国大学!

本地新闻

邵阳公益诉讼检察主题曲:《守望星》

亲子要闻

有好东西要大家一起分享哦

血常规3项异常,是身体警报!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版