网易首页 > 网易号 > 正文 申请入驻

阿加犀实现DeepSeek大模型端侧高效部署,加速端侧AI应用生态构建

0
分享至

2025年初,DeepSeek横空出世,凭借其卓越的性能表现和高成本效益迅速引发全球关注。这一开源模型的推出,不仅为端侧AI的落地应用提供了强有力的支持,更开启了大模型产业格局转型升级的新篇章。

然而,随着访问人数的暴增,DeepSeek一度面临服务宕机的问题,不少用户被官网“服务器繁忙,请稍后再试”的提示语拒之门外——端侧部署成为了应对DeepSeek服务稳定性挑战的关键策略之一。

日前,阿加犀已经在高通平台上成功运行DeepSeek-R1模型,以卓越的性能表现和优异的成本效益实现了该模型的端侧部署和推理

经过测试,搭载高通QCS8550的设备能够流畅运行DeepSeek-R1 1.5B和7B模型,生成速度分别达到40~45 tokens/s和10~13 tokens/s。同时,阿加犀针对DeepSeek-R1 14B模型的适配部署工作也在稳步推进中。

DeepSeek-R1 1.5B运行效果演示(基于高通QCS8550)

此外,阿加犀已搭建本地服务器实现DeepSeek模型部署,供公司内部全员使用。在使用过程中,员工无需再依赖云端服务器,从而避免了因网络波动或服务器过载导致的服务中断,能够高效完成文档处理、代码编程、内容创作等多项任务,显著提升工作效率

阿加犀通过深度优化和适配,快速实现了DeepSeek-R1 模型在端侧设备上的高效部署与运行,为用户提供了更快、更强、更省的端侧AI体验,同时也为端侧AI应用的商用落地奠定了坚实基础。这意味着端侧大模型将有望更快速、更广泛地渗透到各类实际应用场景中,为人们的生活带来前所未有的便捷与智能。

高通CEO安蒙在高通公司2025财年第一财季财报会议上表示,当下“爆火”的DeepSeek R1对高通有利,因为高通芯片可以在本地(而不是云端)高效运行。作为高通的重要战略合作伙伴,阿加犀率先实现了DeepSeek R1模型在高通平台上的部署运行,这一成果不仅体现了阿加犀在端侧AI技术应用方面的深厚积累,同时也为行业伙伴提供了经验与参考。

未来,阿加犀将携手合作伙伴,以创新技术持续打造端侧AI应用生态。我们将继续深入研究更快、更小、更强大、更高效的AI模型在端侧的落地应用,为人形机器人、智能机器人、工业质检、边缘计算等领域的智能化发展赋能,为全球用户提供更可靠、更高效、更具性价比的AI解决方案!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
男子健身后脸上长“脚气”,直呼太恐怖!有网友曾中招:坐了一会儿,屁股就长了一片痘痘

男子健身后脸上长“脚气”,直呼太恐怖!有网友曾中招:坐了一会儿,屁股就长了一片痘痘

环球网资讯
2026-06-28 17:01:23
彻底沦陷?这个小国快被中国“买”下了,10个移民里,9个是华人

彻底沦陷?这个小国快被中国“买”下了,10个移民里,9个是华人

混沌录
2026-06-27 21:27:20
黄金暴跌28%,水贝平台集体爆雷:高价囤金的人,如今怎样了?

黄金暴跌28%,水贝平台集体爆雷:高价囤金的人,如今怎样了?

财经保探长
2026-06-28 18:37:28
南非VS加拿大:两队实力接近,有望上演防守大战

南非VS加拿大:两队实力接近,有望上演防守大战

体育吐槽
2026-06-28 16:37:51
萨比策:我们两度领先本该守住胜果的,这种表现实在不应该

萨比策:我们两度领先本该守住胜果的,这种表现实在不应该

懂球帝
2026-06-28 17:01:26
谢霆锋掰馍顺手推给王菲!演唱会前夕打卡老面馆,看这波烟火气!

谢霆锋掰馍顺手推给王菲!演唱会前夕打卡老面馆,看这波烟火气!

手工制作阿歼
2026-06-28 15:42:02
全面祛魅时代已来临:暴利行业正在崩盘!

全面祛魅时代已来临:暴利行业正在崩盘!

灯锦年
2026-06-28 17:37:09
佛得角教练:梅西是历史第一人!

佛得角教练:梅西是历史第一人!

历史第一人梅西
2026-06-27 19:13:50
引发热议,乌拉圭社媒发布卡诺比奥击打库库雷利亚照片

引发热议,乌拉圭社媒发布卡诺比奥击打库库雷利亚照片

懂球帝
2026-06-28 14:11:13
事实证明,已经“消失”7年的周立波,早已走上一条不归路

事实证明,已经“消失”7年的周立波,早已走上一条不归路

素衣读史
2026-04-16 19:41:20
太无耻!许家印副手向法院“哭穷”:我一个月要花30万

太无耻!许家印副手向法院“哭穷”:我一个月要花30万

说财猫
2026-06-28 06:04:47
梅西建功阿根廷3连胜出线!赛后获3好消息+2坏消息,争冠形势出炉

梅西建功阿根廷3连胜出线!赛后获3好消息+2坏消息,争冠形势出炉

小火箭爱体育
2026-06-28 12:46:08
这个小国比朝鲜还神秘,5毛一升油,水电全免费,却是女性的噩梦

这个小国比朝鲜还神秘,5毛一升油,水电全免费,却是女性的噩梦

抽象派大师
2026-06-26 00:56:10
欧洲局势逆转:盟友反目成仇!史诗级恩将仇报!

欧洲局势逆转:盟友反目成仇!史诗级恩将仇报!

一个坏土豆
2026-06-27 19:15:50
一个没有资源的国家,为什么能留下中国人?

一个没有资源的国家,为什么能留下中国人?

蓝瞰
2026-06-27 18:00:09
高市早苗没料到,拒赴深圳APEC,想给中国甩脸色,中方根本不接招

高市早苗没料到,拒赴深圳APEC,想给中国甩脸色,中方根本不接招

离离言几许
2026-06-27 15:44:23
多名院士研究发现:吃一口桃子,就等于给血脂添一次污,真假?

多名院士研究发现:吃一口桃子,就等于给血脂添一次污,真假?

汪医生健康百科
2026-06-26 17:23:51
终于来了,大陆提前做好收尾动作,岛内军心动摇,赖清德美梦落空

终于来了,大陆提前做好收尾动作,岛内军心动摇,赖清德美梦落空

音乐时光的娱乐
2026-06-28 14:25:39
一击制胜+7大纪录!梅西继续书写传奇,用“四个字”诠释伟大

一击制胜+7大纪录!梅西继续书写传奇,用“四个字”诠释伟大

寒律
2026-06-28 15:51:12
二战中德国最牛勋章,仅一人获得,获奖者堪比神

二战中德国最牛勋章,仅一人获得,获奖者堪比神

史政先锋
2026-06-22 16:29:01
2026-06-28 19:11:00
阿加犀
阿加犀
行业领先的人工智能平台和产品服务商,为全球客户提供可靠的高性能、高效率AI解决方案
525文章数 15关注度
往期回顾 全部

科技要闻

DeepSeek最新论文:如何让大模型跑得更快

头条要闻

中央巡视后不久副部级官员任上落马 其上任不到一年半

头条要闻

中央巡视后不久副部级官员任上落马 其上任不到一年半

体育要闻

韩国可算确定被淘汰了

娱乐要闻

曾沛慈拿下《乘风2026》年度总冠军

财经要闻

两只股票撑起的韩国股市,半年熔断 33 次

汽车要闻

搭载华为乾崑六件套 东风奕派M8预售19.98万起

态度原创

旅游
手机
亲子
游戏
时尚

旅游要闻

老君山门票及优惠政策指南

手机要闻

与高端、中端有关,荣耀传来三大喜讯

亲子要闻

肠道真菌菌群紊乱增加儿童过敏风险

《天国:拯救3》明年发售?开发商同时开发两款RPG

今天的脸不想营业,但墨镜想

无障碍浏览 进入关怀版