网易首页 > 网易号 > 正文 申请入驻

我们在联想 ThinkStation PGX 上搭了一个“AI 编辑部“

0
分享至

在输入框里只敲了五个字:“本周的选题”,随后,屏幕上的工具调用记录一行行滚过:分析账号定位、生成检索条件、搜索近期内容、排出候选题。我们选定一个,它又去补资料、搭大纲、写初稿……

这不是一次简单的模型问答,这是我们最近在桌面上搭建的“AI 编辑部”,在里面工作的是一个Agent。Agent 每调用一次工具,都要把相关资料和上下文重新交给模型,任务越长,计算和内存的压力越大。所以我们把 gpt-oss-120b 部署到联想 ThinkStation PGX,看这样一条完整的写作流程,能不能整个跑在桌面上的一台主机里。


把一篇文章拆成三道工序

测试开始前,我们没有给模型一个“写篇文章”的提示词,因为真实创作不会仅仅是一次问答。我们把过程做成一套写作 Skill,分成选题、资料与大纲、成稿三个阶段。


第一阶段,Agent 先分析账号过往内容和定位,自动生成检索条件,再去海外网站寻找近期内容。找回来的材料还要经过账号的选题和传播规则筛选,最后输出 5 个候选题,并解释推荐理由。

我们选定一个题后,第二阶段启动。Agent 围绕它做新一轮检索,把相关报道、产品资料和用户反馈补齐,随后整理切入角度、核心问题和章节顺序。大纲由我们确认,才进入第三阶段。

写作时,模型同时读取来源笔记、大纲和一组事先整理好的风格规则。这些规则不是一句“写得像某某账号”,而是具体到开头怎么起、段落怎么组织、语言怎么控制,以及编辑平时会改掉哪些表达。系统还预留了一个反馈环节:把人工修改稿交回去,它会比较前后差异,提炼成新规则;编辑确认后,下次任务可以继续使用。

到这里,测试对象已经不是模型能否写出几段文字,而是一条需要多轮调用、长上下文和人工把关的工作链。

1200 亿参数模型如何在桌面上站稳?

这次使用的 gpt-oss-120b 是 120B 级 MoE 模型。OpenAI 官方模型卡显示,权重检查点约 60.8GiB;在我们的量化和运行配置下,服务启动后的占用约 65GB。这个数字不是所有部署的固定值,但足以说明门槛:单张32GB 显存显卡无法完整容纳这套配置的启动占用。

而且,装下模型只是开始。Agent 读入的资料越多、对话越长,KV Cache 占用通常就越大;如果同时跑多个任务,内存压力还会继续增加。对这类工作流来说,可用内存本身就是实际性能的一部分。


ThinkStation PGX 搭载 NVIDIA GB10 Grace Blackwell 超级芯片,提供 128GB 统一内存,CPU 和 GPU 可以共享同一片内存池;官方标称的 AI 算力峰值为 1 PFLOP,前提是 FP4 精度和稀疏计算。选择它的原因很直接:先给 120B 级模型留出空间,再给上下文缓存和工具链保留余量,同时把整套环境放进桌面设备。


模型部署完成后,我们记录了三项结果:服务启动约 17.8 秒,首 token 延迟约 0.66 秒,持续生成速度约 31.8 token/s。它们来自这次具体配置的一次测试,量化方式、输入长度、推理设置以及冷启动或热启动都会改变结果。这组速度足以让我们继续测试多步骤流程。随后,我们用 Hermes 接入本地模型,让它负责工具调用和任务编排,并完成了本地服务连接与工具调用测试。


从本周的选题到完整初稿

正式运行时,我们只输入“本周的选题”。Agent 先读取账号定位和既有规则,再开始检索、筛选和排序。多步工具调用之后,屏幕上出现了 5 个候选题;每个题目不只有一句标题,还附带了推荐理由,方便我们判断是否值得继续。


我们选择第一个选题后,流程没有马上开写。它先进行第二轮资料搜集,把不同来源的信息汇总成笔记,再据此生成文章大纲和写作逻辑。我们检查了核心问题、切入角度和章节顺序,确认后才让它继续。


接下来,Agent 把资料、大纲和写作规则一起交给本地模型,生成完整正文和一组备选标题。等待过程中可以看到,检索、读取、整理和写作分成不同步骤执行。这也解释了为什么 Agent 任务会不断拉长上下文:主要负担不仅在最后的文字生成,也在前面反复携带资料和调用工具。


最终产物约 3000 字,具备完整的开头、章节结构和结尾,标题也与正文主题对应。从成稿状态看,它已经可以进入人工终审,而不是从零重写。我们仍会核对外部资料、调整判断强弱、处理不适合直接发布的表述。选题取舍、大纲确认和事实责任,并没有因为模型在本地运行而消失。


这里还要划清“本地”的边界。模型推理、未发布稿件、内部资料和写作规则可以留在本机处理,但搜索公开资料仍需联网;外部工具能看到哪些文件,也取决于权限配置。把模型搬回桌面,不能自动替代数据访问管理。

一台本地 AI 工作台的边界

跑完这条流程后,我们得出的结论很具体。ThinkStation PGX 在本次配置下跑得动 120B 级 MoE 模型,也能通过 Hermes 与定制 Skill 完成从选题、资料整理、大纲到约 3000 字初稿和备选标题的一次完整流程。128GB 统一内存的价值在这里很清楚:它先容纳模型,再为长上下文留下空间。

这次测试没有证明本地一定比云端便宜、快或安全。设备采购、功耗与维护都是成本;公开检索仍需联网,权限边界还要单独配置。我们也没有做云端对照、长时间稳定性、并发和事实错误率测试,因此不应把一次跑通扩展成全面领先。


PGX 更适合高频生产内容、处理内部文档,或反复调试模型与 Agent 的团队。偶尔写一两篇稿件的个人用户,很难仅靠省下的 API 费用摊平整套设备。企业还要把采购、数据管理和维护能力一起算进去。

这次评测之后,我们更愿意把 ThinkStation PGX 看作一张可以部署本地大模型和 Agent 的工作台。它把模型、资料和流程留在桌面上;选题、判断和最终责任,仍然在编辑手里。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
长期没有性生活,男人和女人谁更难以忍受?对身体有什么危害?

长期没有性生活,男人和女人谁更难以忍受?对身体有什么危害?

医学原创故事会
2026-10-13 23:18:10
取消特权,全民赞成!退休金设计者郑秉文,55年出生,他会怎样?

取消特权,全民赞成!退休金设计者郑秉文,55年出生,他会怎样?

阿伧说事
2026-07-29 15:03:38
号外!浦东机场T3航站楼屋顶“起飞”

号外!浦东机场T3航站楼屋顶“起飞”

看看新闻Knews
2026-10-13 16:25:37
被地图“缩小”的非洲:面积近俄美印之和,真实体量远超你的想象

被地图“缩小”的非洲:面积近俄美印之和,真实体量远超你的想象

喜之春
2026-09-24 06:00:19
希望不成为第二个恒大!王传福发起2000亿猛攻:国内失速 海外接

希望不成为第二个恒大!王传福发起2000亿猛攻:国内失速 海外接

历史点行
2026-10-13 17:23:36
特朗普没有料到,先等来的不是赢得选举,而是被共和党判定违法

特朗普没有料到,先等来的不是赢得选举,而是被共和党判定违法

鱼语昱雨轩
2026-10-13 09:57:07
凯西:高兴打入回归首球,但我是团队型球员球队赢球最重要

凯西:高兴打入回归首球,但我是团队型球员球队赢球最重要

懂球帝
2026-10-13 09:25:25
“奔驰这话真扎心!一句话捅到肺管子上了”,尊界刹车踏板断裂引爆全网,网友翻出奔驰旧P图玩梗对线

“奔驰这话真扎心!一句话捅到肺管子上了”,尊界刹车踏板断裂引爆全网,网友翻出奔驰旧P图玩梗对线

火山詩话
2026-10-11 13:38:51
美国警告台湾:一旦宣布“独立”,八成大陆民众支持军事行动

美国警告台湾:一旦宣布“独立”,八成大陆民众支持军事行动

近史博览
2026-10-11 05:16:14
尊界客服回应:尚未核实到是谁委托第三方机构进行测评

尊界客服回应:尚未核实到是谁委托第三方机构进行测评

财闻
2026-10-13 11:00:07
卖给同胞亏50亿求救,卖给越南却按0.63元/度,中国电价被撕开两副面孔

卖给同胞亏50亿求救,卖给越南却按0.63元/度,中国电价被撕开两副面孔

寰球经纬所
2026-10-13 20:50:43
曝梅西将出席金球奖典礼!第1次担任颁奖嘉宾,获奖球员基本确定

曝梅西将出席金球奖典礼!第1次担任颁奖嘉宾,获奖球员基本确定

球场没跑道
2026-10-13 10:25:36
“中国版马斯克”走红,马斯克本人回应:我俩同台跳舞,肯定会很有趣

“中国版马斯克”走红,马斯克本人回应:我俩同台跳舞,肯定会很有趣

封面新闻
2026-10-13 17:00:11
真是没想到!无球可打却身家过亿的李梦现状曝光:连续入选国家队,31岁四处旅游潇洒!她凭什么?

真是没想到!无球可打却身家过亿的李梦现状曝光:连续入选国家队,31岁四处旅游潇洒!她凭什么?

锐评利物浦
2026-10-13 08:57:59
人到40,每天吃一粒,远离脑梗、中风、肩颈、腰腿、四肢疼痛

人到40,每天吃一粒,远离脑梗、中风、肩颈、腰腿、四肢疼痛

神希园
2026-10-13 12:05:09
高市拿到12年稀土大单就飘了,叫嚣反制无效,不料麻烦才开始

高市拿到12年稀土大单就飘了,叫嚣反制无效,不料麻烦才开始

疯狂小菠萝
2026-10-13 12:09:02
“大闸蟹价格腰斩”冲上热搜,记者在南京实探:部分降幅超40%,供给放量是最直接原因

“大闸蟹价格腰斩”冲上热搜,记者在南京实探:部分降幅超40%,供给放量是最直接原因

上游新闻
2026-10-13 11:13:08
武里南联主帅:对国安的丢球本不该丢,我们的机会没转化为进球

武里南联主帅:对国安的丢球本不该丢,我们的机会没转化为进球

懂球帝
2026-10-14 00:21:09
章子怡高调宣布喜讯,小腹微凸状态回春,她令整个娱乐圈刮目相看

章子怡高调宣布喜讯,小腹微凸状态回春,她令整个娱乐圈刮目相看

看尽落尘花q
2026-10-13 06:31:53
内蒙古呼伦贝尔发鼠疫风险提示:作为鼠疫自然历史疫源地,同时毗邻俄罗斯远东地区;来自疫源地者,出现疑似症状,应立即就诊并告知旅行史

内蒙古呼伦贝尔发鼠疫风险提示:作为鼠疫自然历史疫源地,同时毗邻俄罗斯远东地区;来自疫源地者,出现疑似症状,应立即就诊并告知旅行史

南方都市报
2026-10-13 13:19:26
2026-10-14 05:27:00
至顶AI实验室 incentive-icons
至顶AI实验室
一个专注于探索生成式AI前沿技术及其应用的实验室。
3529文章数 185关注度
往期回顾 全部

科技要闻

扎克伯格宣布追上OpenAI!Meta新模型亮相

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

头条要闻

男子到姐姐家调解夫妻矛盾 不到1分钟被姐夫刺死

体育要闻

走调的歌声里全是感情 最好的郑钦文尚未登场

娱乐要闻

谭松韵亲自解答兰香结局遗憾

财经要闻

"黑医师"产业链调查:不学医竟能"拿证"

汽车要闻

豪华智能全拉满 比亚迪大汉不止旗舰级舒适

态度原创

时尚
艺术
本地
房产
家居

钟楚曦: 两处人间

艺术要闻

超高清到犯规!奥地利女画家玛丽的印象派抒情风景,美到窒息,看一眼就想住进画里!

本地新闻

这个十一,林都伊春彻底出圈!

房产要闻

巨无霸来了!海口百亿大盘,正式动工!

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版