网易首页 > 网易号 > 正文 申请入驻

DeepSeek引爆本地部署热,个人企业争相入局

0
分享至

随着DeepSeek持续火爆出圈,人们开始不满足于网页端和APP端上使用DeepSeek,而尝试将DeepSeek进行本地化部署。本地化部署是指将DeepSeek的AI大模型安装到本地计算机内,不依赖网络或云服务。记者搜索视频网站发现,不少用户上传了如何将DeepSeek部署到本地计算机的教程,不少视频浏览量超过100万。

DeepSeek引发本地部署热潮

教人部署DeepSeek也成为了一门生意。记者通过在电商平台搜索“DeepSeek本地部署”发现,不少店铺开辟了DeepSeek本地部署的生意,这些服务单价从几元到几十元不等,其中一些服务近期已有1000人购买。

一位尝试过部署的AI爱好者告诉记者,网络端运行响应速度较慢,并且访问量过大时候,时常出现“服务器繁忙,请稍后再试。”为了获得更好的使用体验,他就尝试采用DeepSeek进行本地部署。据了解,本地部署不需要掌握深厚的编程知识,通过教程按部就班,即可部署成功。

艾媒咨询首席分析师张毅告诉记者:“本地部署支持个人根据需求,对DeepSeek进行一些定制化修改,也是驱动力之一。”张毅补充道,本地部署中个人数据不上云,可满足隐私需要。

DeepSeek发布了不同参数量的模型,小至10亿参数,大至6710亿参数,参数越大所需的计算资源就越大。由于个人电脑手机等设备的计算资源受限,6710亿参数的DeepSeek模型往往无法本地部署。“普通笔记本电脑只能部署10亿参数的版本,如果个人电脑配有好的GPU显卡或较高内存(比如32GB),那么可以跑70亿参数版本的DeepSeek。”上述AI技术爱好者告诉记者。

从本地部署的效果而言,参数越小的版本,大模型的回答质量越差。“我尝试本地部署过70亿参数版本的DeepSeek,运行较流畅,但是回答质量还比云端版本差很多,更小参数版本的效果会更差。”上述AI爱好者表示。

在DeepSeek本地部署的热度下,专门在PC中添加了NPU的AI PC有望迎来销量增长。据了解,华为、联想、戴尔等电脑品牌纷纷推出AI PC,这种新型PC搭载有专门处理本地部署AI大模型计算的处理器芯片,这些处理器芯片均由英特尔、AMD、高通等芯片厂提供。

这些AI PC可在本地部署并流畅运行上百亿参数的AI大模型,例如本次CES 2025年上,AMD就推出了Ryzen AI max系列处理器,称可在电脑本地运行700亿参数AI大模型。不过,配置有该处理器芯片的AI PC售价不菲,据了解,华硕某游戏本价格近1.5万元。另外,也有人质疑,花大价钱买AI PC,进行AI大模型的本地部署,实现功能却和云端AI大模型高度重合,AI PC仅仅是厂商的噱头而已。

企业尝试本地部署DeepSeek

除了个人开启DeepSeek本地部署之外,企业也开始跃跃欲试。蛇年工作日的第一天,蒂姆维澳创始人王加辉发布一条微信朋友圈:“DeepSeek大模型本地电脑部署体验成功,导入煤矿知识安全库进行问答,下一步让它结合工业现场作业。”

蒂姆维澳是一家提供工业管理解决方案的企业,它面向采矿业、石油业等行业,运用AR眼镜和AI软件,为工业现场人员的维修、质检、故障排查,提供实时观察和指导。王加辉告诉记者,此前仅采用通义千问AI大模型打造了本地知识库问答,鉴于DeepSeek更好的推理能力,他正考虑将DeepSeek和业务深度融合。

“我们会在DeepSeek基础上,根据特定工业场景的需求和数据,对特定参数进行微调,或者进行二次开发,以适配IT系统和实现新功能。”王加辉向记者表示:“我们目标是将DeepSeek部署在本地,并和现场的相机进行联动,从而更好地识别现场的危险作业,并实现隐患排查和产品质检等功能。”

他认为,工业客户是否采用本地部署主要取决于数据的涉密性。“一些国企、军工、医疗设备企业往往要求我们实施本地部署的方案,因为它们对于数据安全的要求较高。”他进一步补充道:“非涉密场景可采用云端接入的方案,虽然会出现操作延时,但是影响不大,并且方案价格更低。”

如果采用本地部署,这些客户要求配置装有4卡或8卡GPU的服务器,实现DeepSeek本地推理服务。“我的客户普遍选择英伟达的消费级显卡来配置服务器,例如4090,性价比较高。”王加辉表示:“如果客户有国产化配置要求,我们会采购价格更高的国产GPU显卡。”

除工业外,越来越多企业开始本地部署DeepSeek。国金证券称DeepSeek可应用于信息检索、文档处理、行业研究、市场研判等场景。此外,医疗行业、网络安全等行业内的企业近期也在本地化部署DeepSeek,包括万达信息、奇虎360等。

张毅告诉记者,随着企业对本地化部署要求扩大,国产推理算力的需求量将增加,加上美国对高端芯片封禁,国产芯片算力企业将迎来较大机遇。

AI应用将爆发

高通CEO克里斯蒂亚诺·安蒙(Cristiano Amon)称,DeepSeek-R1是AI产业的转折点,AI推理将向端侧迁移,AI将变得更小、更高效、更定制化,并且基于特定场景的AI大模型和AI应用将出现。中航证券研报认为,DeepSeek-R1说明了端侧AI部署将变得更加普惠,万物智能时代将加速到来。

开源将吸引更多开发者在DeepSeek基础上构筑应用。华为昇腾、摩尔线程、壁仞科技、天数智芯等国产GPU卡已经适配DeepSeek;腾讯云、阿里云、移动云、华为云等云厂商也和DeepSeek完成适配。对国产算力的适配优化,有望进一步降低推理侧的成本。

由于国内应用付费的习惯尚未完全成熟,AI应用的商业化可能受阻。国金计算机首席孟灿认为,美国对应用付费有着10年,甚至20年基础,这对AI应用的商业化有助益,而国内由于尚无此基础,AI应用落地及商业化的时间进度会较慢。不过,国内正在不断追赶,时间进度有望缩短至半年以内。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
全球最高,172.5米圣家堂封顶,但距离完工还要8年!

全球最高,172.5米圣家堂封顶,但距离完工还要8年!

外滩TheBund
2026-02-27 11:49:40
人社部传来好消息!2026年养老金或继续调整,企退人员能涨4%吗?

人社部传来好消息!2026年养老金或继续调整,企退人员能涨4%吗?

另子维爱读史
2026-02-26 20:19:13
报告: 集成电路工程师年薪超40万

报告: 集成电路工程师年薪超40万

第一财经资讯
2026-02-27 14:52:35
“我就是她取精生子的工具”清华学霸哭诉,撕开了女富豪的遮羞布

“我就是她取精生子的工具”清华学霸哭诉,撕开了女富豪的遮羞布

北纬的咖啡豆
2026-02-20 19:12:17
一级军士长的地位有多高?相当于什么级别?为何师长见了都得敬礼

一级军士长的地位有多高?相当于什么级别?为何师长见了都得敬礼

观锐器
2026-02-26 22:20:40
风向彻底变了?赖清德向大陆服软,就统一表态,背后深意不简单

风向彻底变了?赖清德向大陆服软,就统一表态,背后深意不简单

青橘罐头
2026-02-27 07:38:39
120医护以无义务为由拒绝抬患者,40分钟才上救护车,死亡,当地回应

120医护以无义务为由拒绝抬患者,40分钟才上救护车,死亡,当地回应

金水路7号站
2026-02-27 08:35:24
人民币升值过快?央行出手了:准备金率下调至0,有何影响?

人民币升值过快?央行出手了:准备金率下调至0,有何影响?

南方都市报
2026-02-27 12:26:08
湖北一大型国企董事长、法定代表人发生变动

湖北一大型国企董事长、法定代表人发生变动

越乔
2026-02-27 10:13:33
我见过最傻的父母,攥着大把的存款和退休金,却等着给子女当遗产

我见过最傻的父母,攥着大把的存款和退休金,却等着给子女当遗产

i书与房
2026-02-25 17:22:34
“我不是卡佩拉!”艾顿更衣室暴怒,湖人再遭伤病打击

“我不是卡佩拉!”艾顿更衣室暴怒,湖人再遭伤病打击

夜白侃球
2026-02-27 14:13:59
马筱梅产后首表态遭小S怒骂,前夫颜面扫地

马筱梅产后首表态遭小S怒骂,前夫颜面扫地

晓劗就是我
2026-02-27 04:07:15
玄学真相:凡事“反着来”,你就赢了——这才是人生最高级的破局之道

玄学真相:凡事“反着来”,你就赢了——这才是人生最高级的破局之道

青苹果sht
2026-02-27 06:28:52
你们都是什么时候对男女之事开窍的?网友:果然还是拦不住有心人

你们都是什么时候对男女之事开窍的?网友:果然还是拦不住有心人

夜深爱杂谈
2026-02-21 21:37:02
2026春晚节目收视率排行榜出炉,结果叫人意外,赵本山的话应验了

2026春晚节目收视率排行榜出炉,结果叫人意外,赵本山的话应验了

查尔菲的笔记
2026-02-23 21:03:40
临时抱佛脚没用?总统宣:内马尔踢不了世界杯 安帅选人不看名气

临时抱佛脚没用?总统宣:内马尔踢不了世界杯 安帅选人不看名气

智道足球
2026-02-27 13:24:44
德国外长:“不再讨论”没收俄在欧被冻结资产

德国外长:“不再讨论”没收俄在欧被冻结资产

参考消息
2026-02-26 13:08:07
48岁黄晓明恋情曝光,女方小二十多岁,身份被扒,颜值漂亮身材好

48岁黄晓明恋情曝光,女方小二十多岁,身份被扒,颜值漂亮身材好

寒士之言本尊
2026-02-26 19:15:01
中俄东北虎数量差距断崖:俄罗斯700只,中国的数量令人意外!

中俄东北虎数量差距断崖:俄罗斯700只,中国的数量令人意外!

又是美好的日子
2026-02-21 04:01:54
原来他俩是母子,母亲是顶级歌后,儿子是导演,俩人至今都是单身

原来他俩是母子,母亲是顶级歌后,儿子是导演,俩人至今都是单身

削桐作琴
2026-02-25 19:09:55
2026-02-27 15:44:49
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
245137文章数 621615关注度
往期回顾 全部

科技要闻

英伟达业绩亮眼仍跌5% 两大因素成核心隐忧

头条要闻

24岁女子生下1男4女五胞胎 孩子爸爸称"心情像过山车"

头条要闻

24岁女子生下1男4女五胞胎 孩子爸爸称"心情像过山车"

体育要闻

一场必须要赢的比赛,男篮何止击败了裁判

娱乐要闻

继网暴谷爱凌后 美国欲没收其全部收入

财经要闻

沈明高提共富建议 百姓持科技股国家兜底

汽车要闻

宝马X5传承版发布:给经典G05的一场体面谢幕?

态度原创

数码
艺术
亲子
教育
时尚

数码要闻

联想Lenovo Tab Plus Gen2平板电脑现身,大外凸扬声器模组

艺术要闻

紫气东来,好运一整年!

亲子要闻

别让“语迟必显贵”耽误了孩子,晚说话不一定是好事儿

教育要闻

中考数学,计算题,别想太简单

今年春天最美搭配:西装+半裙,怎么穿都好看!

无障碍浏览 进入关怀版