网易首页 > 网易号 > 正文 申请入驻

一个"废话过滤器"能省多少电?

0
分享至

「每少一个词,就少烧一点煤。」——这话如果出自环保主义者之口不奇怪,但说这话的是个给大模型写脚本的开发者。

他做了个叫 Defluffer 的工具,专门帮人把写给人工智能的提示词(prompt)砍掉废话。不是用另一个大模型来改写,而是用硬编码的规则直接压缩。理由是:用人工智能省人工智能的算力,这事本身就很蠢。


为什么"省词"等于省电

大模型对话有个反直觉的机制:每次你发新消息,它会把整段对话历史重新读一遍。所以开头省下的一个词,会在后续几十轮交互中被反复加载。

Defluffer 的作者算过一笔账:假设全球 4000 万开发者每天用 30 次人工智能,每次省 135 个词(token),一年能省 60 吉瓦时电。这个数字来自谷歌的 Gemini,作者自己标注是"fluffed numbers"——掺了水的估算。

但核心逻辑成立:词少了 → 算力需求降了 → 电费省了 → 数据中心少烧煤。

具体怎么砍

作者放了一个演示案例。原始提示词 200 多词,充满"Hello there""I would really appreciate""Due to the fact that"这类礼貌废话,以及"strictly equals to true"这种冗余技术描述。

Defluffer 的处理很粗暴:删掉问候语、把"Due to the fact that"换成"Because"、去掉"strictly""really"等副词、压缩代码注释。不改动技术意图,只剥离社交润滑层。

结果通常能压缩 40%-50% 长度。作者实测的演示文本省了 45% 的 token。

这项目认真吗?

「绝对不要用在生产环境,求你了。」这是作者的原话。

Defluffer 的代码是公开的,但定位是周末黑客项目(weekend hack)。它用正则表达式和硬规则处理文本,不理解语义,可能砍掉必要的上下文。比如"senior backend developer"这个身份设定,在某些场景下确实影响模型输出风格,Defluffer 可能误判为废话。

但作者想传递的信号是认真的:提示词工程(prompt engineering)的优化空间被严重低估。不是只有换更小的模型才叫优化,输入端减肥同样有效。

省钱的副产品

按量付费的 API 用户能直接受益。OpenAI、Anthropic 等厂商按 token 计费,输入输出都收钱。Defluffer 只砍输入端,但对话历史反复加载的机制意味着:开头省下的 token,会在整个会话周期持续产生复利。

订阅制用户(比如 ChatGPT Plus)感知不明显,但企业级 API 调用量大的场景,累积效应可观。

作者还做了个可视化计算器:拖动滑块调整"每日提示次数""平均节省 token 数",实时显示预估的年度二氧化碳减排量。把个人编码习惯和全球气候议题挂钩,这个设计比技术本身更有传播性。

45% 的压缩率意味着什么

如果行业普遍接受"提示词需要预处理"这个前提,可能出现几种演变:

一是 IDE 和代码编辑器内置类似功能,在提交请求前自动压缩;二是出现更聪明的中间层,用轻量模型做语义保留的改写,而非硬规则;三是厂商自己在服务端优化,把成本转嫁给用户前的缓冲。

Defluffer 用极端简化的方案证明:这个优化空间真实存在,且不需要等待技术突破。

60 吉瓦时的估算大概率偏高,但即使按十分之一计算,也是 6 吉瓦时——相当于几千个家庭一年的用电量。而实现它只需要改变一个习惯:发请求前,先删一遍废话。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
惊天揭秘!中南医院女医护与权色交易的背后真相!

惊天揭秘!中南医院女医护与权色交易的背后真相!

人生录
2026-04-22 11:49:14
女子酒店抓获丈夫出轨,无法容忍不戴避孕套,丈夫:她是我朋友

女子酒店抓获丈夫出轨,无法容忍不戴避孕套,丈夫:她是我朋友

李晚书
2026-04-24 10:39:33
斯诺克赛程:决出首席8强,肖国栋或被墨菲淘汰,赵心童PK丁俊晖

斯诺克赛程:决出首席8强,肖国栋或被墨菲淘汰,赵心童PK丁俊晖

刘姚尧的文字城堡
2026-04-24 08:57:36
此论调不可取:整个北约打不过俄罗斯?把德国逼下场会让俄军绝望

此论调不可取:整个北约打不过俄罗斯?把德国逼下场会让俄军绝望

寰球经纬所
2026-04-24 15:00:27
嗜赌成性只是冰山一角,婚内出轨、睡有妇之夫,体坛丑闻毁三观

嗜赌成性只是冰山一角,婚内出轨、睡有妇之夫,体坛丑闻毁三观

梦想总会变成真
2026-04-23 01:11:47
福建永安女司机与保安互殴,网友用AI生成两人低俗视频

福建永安女司机与保安互殴,网友用AI生成两人低俗视频

黄河新闻网吕梁
2026-04-24 10:31:01
上海地铁站内,这个“高素质”习惯爆发冲突!上海已叫停多年!很多人改不过来……

上海地铁站内,这个“高素质”习惯爆发冲突!上海已叫停多年!很多人改不过来……

环球网资讯
2026-04-23 11:11:44
DeepSeek V4还是神:架构极度聪明,昇腾“原生”,接下来和华为一起让token大降价

DeepSeek V4还是神:架构极度聪明,昇腾“原生”,接下来和华为一起让token大降价

硅星GenAI
2026-04-24 12:58:58
特斯拉将迎来重磅更新,太猛了!

特斯拉将迎来重磅更新,太猛了!

花果科技
2026-04-23 15:08:15
炸锅!美部长当众承认:中国一颗H200芯片没买

炸锅!美部长当众承认:中国一颗H200芯片没买

林子说事
2026-04-23 17:52:16
伊朗发出灵魂拷问,杀领导人平民;炸毁设施,这让人怎么坐回桌前

伊朗发出灵魂拷问,杀领导人平民;炸毁设施,这让人怎么坐回桌前

阿七说史
2026-04-22 15:35:19
外交部:希望芬方理性客观地看待中国同其他国家正常发展关系

外交部:希望芬方理性客观地看待中国同其他国家正常发展关系

环球网资讯
2026-04-24 15:48:11
歌手好弟现状:娶了中国美女,女儿长相随他,来中国多年仍没绿卡

歌手好弟现状:娶了中国美女,女儿长相随他,来中国多年仍没绿卡

一娱三分地
2026-04-23 17:10:44
就差1秒!特朗普欲发射核武器,军方强行拦截,拒绝为总统扣扳机

就差1秒!特朗普欲发射核武器,军方强行拦截,拒绝为总统扣扳机

云舟史策
2026-04-24 07:22:38
官方:马宁以四官身份执法亚冠精英赛决赛,周飞担任边裁

官方:马宁以四官身份执法亚冠精英赛决赛,周飞担任边裁

懂球帝
2026-04-24 11:23:16
西安一职校学生被同学持刀捅伤,知情人称伤者已从ICU转至普通病房,教育局和警方回应

西安一职校学生被同学持刀捅伤,知情人称伤者已从ICU转至普通病房,教育局和警方回应

极目新闻
2026-04-24 18:07:53
向特朗普摊牌!委代总统撕下面具,亲率几十万大军,决意硬刚美国

向特朗普摊牌!委代总统撕下面具,亲率几十万大军,决意硬刚美国

趣文说娱
2026-04-23 22:00:08
偶遇杨千嬅夫妇逛西湖,素面休闲无架子,丁子高穿拖鞋状态松弛

偶遇杨千嬅夫妇逛西湖,素面休闲无架子,丁子高穿拖鞋状态松弛

林轻吟
2026-04-24 14:53:18
姆巴佩在社交媒体暗戳支持穆里尼奥回归皇马后,现任主帅作出回应

姆巴佩在社交媒体暗戳支持穆里尼奥回归皇马后,现任主帅作出回应

夜白侃球
2026-04-24 10:51:37
布伦森绝杀失误登全美热搜!迷之操作遭讽 布朗:为他画绝杀战术

布伦森绝杀失误登全美热搜!迷之操作遭讽 布朗:为他画绝杀战术

颜小白的篮球梦
2026-04-24 10:53:39
2026-04-24 19:03:00
固件更新中
固件更新中
有态度网友ytd
2866文章数 24关注度
往期回顾 全部

科技要闻

DeepSeek V4牵手华为,价格依然"屠夫级"

头条要闻

31人抢的小鹏事故车被36800元拍下 车主在车祸中身亡

头条要闻

31人抢的小鹏事故车被36800元拍下 车主在车祸中身亡

体育要闻

里程碑之战拖后腿,哈登18分8失误

娱乐要闻

停工16个月!赵露思证实接拍新剧

财经要闻

LG财阀内斗:百亿美元商业帝国争夺战

汽车要闻

零跑Lafa5 Ultra北京车展上市:11.88-12.48万

态度原创

艺术
数码
健康
教育
公开课

艺术要闻

纽约又一“牙签楼”!高262米,仅住26户,有钱人真会玩

数码要闻

OPPO Find X9s Pro全渠道开售 不涨价的旅拍神器

干细胞如何让烧烫伤皮肤"再生"?

教育要闻

同一所学校,QS排名194,FT专业排名全球第36——差距怎么解释?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版