智东西9月27日消息,国内AI大模型创企岩芯数智(RockAI,简称岩芯)昨日发布了自研的新一代非Transformer架构大模型,名为Yan1.3多模态大模型。该模型今年11月正式向开发者开源。
目前,岩芯数智已实现该模型在手机、电脑、无人机、机器人等端侧硬件上的离线部署,距离全面“脱机”使用AI大模型更近了一步。此外,该公司设立了1亿元的Yan基金用于开展Yan生态合作,并透露其已与多家上下游运营商和厂商洽谈端侧人工智能(AI)项目。
Yan1.3多模态大模型在岩芯数智还有另一个叫法,即群体智能单元大模型。受到生物智能的启发,岩芯数智CEO刘凡平想要用类人脑机制的Yan架构,释放机器智能的未知潜能。
会上,岩芯数智CEO刘凡平分享了他放弃大家一直看好的Transformer架构,坚持非Transformer架构的缘由和心路历程。
“国内AI模型开发者都在追随海外的步伐,这像一场没有终点的技术接力赛。”在刘凡平眼里,这种跟随、模仿没有意义。于是,他决定自研非Transformer架构大模型。
不过,今年1月推出的Yan1.0架构大模型,刘凡平直言受到了不少质疑。此后,耗时8个月,经历了Yan1.1、Yan1.1 Plus、Yan1.2的3次迭代,岩芯数智才推出了Yan1.3版本。
刘凡平称,Yan1.3群体智能单元大模型突破了云端大模型和端侧大模型之间的“楚河汉界”,是一个面向机器的群体智能单元大模型,将从另一个维度上孵化“进化中的生命体”。
此外,今天的AI前沿论坛邀请了中科院上海微系统所研究员李孟和浙江大学人工智能系主任杨洋,刘凡平与他们一同探讨AI大模型与脑科学在学术界和工业界的最新进展。
谈及Yan架构群体智能单元大模型的意义,杨洋认为该大模型将普惠很多想用AI技术却用不上的硬件厂商。这等同于“分发入场券”,杨洋说道,算力资源匮乏的个体也可以入局AI市场,激活整个AGI生态。
刘凡平补充道,Yan架构群体智能单元大模型除了能够降低个体的“入行门槛”,还能推动个体智能化进阶到群体智能化,将现有的大量端侧工具,做成一个可以本地直接使用的AI生命体,从而借助群体的力量突破机器智能的上限。
一、少内存、小算力、不开模、低成本获得端侧AI能力
作为岩芯数智的创始人之一,邹佳思分享了Yan1.3多模态大模型在端侧硬件的落地情况。
通常来说,AI大模型在端侧的应用需要考虑到设备内存占用、续航、硬件开模成本等难点。Yan1.3多模态大模型占用的内存基本控制在1GB左右,远小于市面上的主流产品。
同时,通过非Transformer架构和局部算力激活机制,低算力设备也可以适配该AI大模型,可以复用现有的存量设备。
1、飞行模式下可用,参数量仅3B,中低端手机也能丝滑运行
在飞行模式下,用户点开手机界面的RockAI(岩芯数智)智能助手App,用自然语言说出照片中的一些画面要素,比如“一张在海边看日落的照片”,RockAI智能助手就可以离线检索出一系列相匹配的照片。
同时,RockAI智能助手还可以一键生成小红书风格的文案,耗时约7到8秒。
此外,它还能参考画面要素写出不同主题的文案。联网情况下,上述文案和照片能够直接跳转分享至微信朋友圈。
据邹佳思透露,RockAI智能助手App使用的是参数量仅3B的Yan1.3多模态大模型,不仅AI图片生成文字所花费的时间,比大部分手机上的AI语音助手快至少30%,而且大部分中低端手机的CPU都能带得动该模型。
2、迅兔AI PC拿下“五环外的”偏远地区市场份额
断网情况下,部署了Yan1.3多模态大模型的迅兔AI PC,可以听懂自然语言的语音指令,并支持音频转录、会议总结、以文找图、以图找图等功能。
例如,对它说出“帮我把所有橘猫的照片都删掉”,该AI PC就可以在离线状态下找出相应的照片。
据岩芯数智方面透露,从目前已有的测试结果来看,该大模型单次音频转写时长和文本输出长度,可以“无上限”。
邹佳思称,在一些预算不多的偏远地区或海外国家,Yan1.3多模态大模型已然是PC界的一块“香饽饽”。来源:yax.lengku9.Net
来源:xcr.hellomirror.Net
来源:aat.nfeng.Net
来源:vic.shenzhenshouji.Net
来源:skx.brain-create.Net
来源:bnf.trulysavvy.Net
来源:atg.dagonexhibitions.Net
来源:bfa.skmovie.Net
来源:xem.rainmax.Net
来源:ouf.komachi-o.Net
来源:rkf.nsmusic.Net
来源:hwt.tkpmeguro.Net
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.