网易首页 > 网易号 > 正文 申请入驻

约14MB内存运行2.7亿参数模型:谷歌工程师把AI装进打印机,每词元耗时约60秒

0
分享至

IT之家 11 月 20 日消息,谷歌 DeepMind 技术团队成员奥马尔 · 圣塞维耶罗(Omar Sanseviero)于 11 月 17 日在 X 平台发布推文,在只占用 14.1MB 内存的情况下,成功让办公激光打印机运行 2.7 亿参数的 Gemma 3 270M 模型,每输出一个词元(Token)消耗约 60 秒。

圣塞维耶罗借助谷歌的 Gemini 4 Carbon 模型,探索展示了一个特别实验,将小型 Transformer 推理引擎与量化后的模型编译成一个 PostScript 打印任务。

本次实验没有修改理光打印机固件,也未加装外部计算板,而是利用打印机内置的 PostScript 解释器执行计算,让原本用于描述打印页面的语言承担起运行 AI 的工作。

为充分发挥打印机有限的内存资源,本次实验并未一次性装下整个模型,改为采用动态层加载方式,轮流将模型各层调入、移出内存,该实验运行时峰值占用约为 14.1MB。IT之家附上相关截图如下:


性能输出方面,本次实验处理速度约为每个词元 60 秒(不是每秒 60 个词元)。报道称整个计算发生在打印机内部,由打印机的 CPU 执行 PostScript 程序,再把答案交给打印机打印,模型推理涉及 18 个 Transformer 网络层。

在预填充(prefill)阶段,处理输入提示“Read the fine”耗时约 184 秒,而解码(decode)单个生成词元耗时 0.1 秒,总计 184.1 秒。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
财政部:1—10月,印花税4712亿元,同比增长24.6%

财政部:1—10月,印花税4712亿元,同比增长24.6%

每日经济新闻
2026-11-20 16:59:05
台湾人魏明仁“胆大妄为”:在台湾建毛主席纪念馆,升共产党党旗

台湾人魏明仁“胆大妄为”:在台湾建毛主席纪念馆,升共产党党旗

古渡观书
2026-11-20 01:52:42
很无奈!女子吐槽和老公出门总被认成母子:我只是脸有点大

很无奈!女子吐槽和老公出门总被认成母子:我只是脸有点大

西昆仑Bruce
2026-11-19 16:57:57
库里与詹姆斯的38岁对比!场均少打6分钟多拿2.4分 真碾压詹姆斯?

库里与詹姆斯的38岁对比!场均少打6分钟多拿2.4分 真碾压詹姆斯?

体坛八点半的那些事儿
2026-11-20 17:19:16
美国又出手了,但网上一片叫好

美国又出手了,但网上一片叫好

吴女士
2026-11-19 13:32:59
刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

健康快乐丁
2025-07-07 21:54:56
属兔的恭喜了!贵人送财,就在这7天内

属兔的恭喜了!贵人送财,就在这7天内

刺头体育
2026-11-20 17:37:28
切开放一会儿就“发黑”的口蘑,不是坏了——真相是:越白得发亮、放一天都不变色的,越要当心

切开放一会儿就“发黑”的口蘑,不是坏了——真相是:越白得发亮、放一天都不变色的,越要当心

富贵说
2026-11-17 18:37:46
四野独眼开国中将,征战东北至海南,一生毁誉参半,长寿活到95岁!

四野独眼开国中将,征战东北至海南,一生毁誉参半,长寿活到95岁!

浅遇光阴
2026-11-19 14:47:48
1949年,解放军打开马鸿逵的仓库,全部愣住:里面是1286公斤羊毛

1949年,解放军打开马鸿逵的仓库,全部愣住:里面是1286公斤羊毛

历史人文2
2026-11-20 16:55:47
惨!新5元纪念币,没人约了!

惨!新5元纪念币,没人约了!

天天纪念币
2026-11-18 12:05:10
国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

云景侃记
2026-11-20 09:48:24
7连阴后 小盘股加速出清:市场在等一个什么信号?

7连阴后 小盘股加速出清:市场在等一个什么信号?

郭一鸣
2026-11-20 15:40:29
印度前内阁部长:深圳APEC没请莫迪,伤了印度的体面。

印度前内阁部长:深圳APEC没请莫迪,伤了印度的体面。

荆楚寰宇文枢
2026-11-19 23:30:01
冬天,每天早上喝一碗,把肝血补回来,手不麻眼不花,整个冬天不怕冷

冬天,每天早上喝一碗,把肝血补回来,手不麻眼不花,整个冬天不怕冷

江江食研社
2026-11-20 14:24:27
越来越多的迹象表明:内塔尼亚胡间接上成为了中国的“大恩人”?

越来越多的迹象表明:内塔尼亚胡间接上成为了中国的“大恩人”?

无情有思可
2026-11-19 08:11:29
Anthropic首秀冲高回落, 引发美股大跌, 经济学家警告:AI行情或终结

Anthropic首秀冲高回落, 引发美股大跌, 经济学家警告:AI行情或终结

每日经济新闻
2026-11-20 08:55:21
笑不活了!如果你不开心,就去看文吉儿戴帽子的网友评论吧,快笑趴了

笑不活了!如果你不开心,就去看文吉儿戴帽子的网友评论吧,快笑趴了

糊咖娱乐
2026-11-20 16:21:36
金平日:与金正日争权失败,驻外30年躲过暗杀,因这件事允许回国

金平日:与金正日争权失败,驻外30年躲过暗杀,因这件事允许回国

阿胡
2025-04-03 13:59:42
王毅介绍中俄美元首会晤情况

王毅介绍中俄美元首会晤情况

界面新闻
2026-11-20 07:06:03
2026-11-20 18:56:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380506文章数 607745关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

房产
教育
健康
公开课
军事航空

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

教育要闻

家里长期脏乱,其实是留给孩子昂贵的负担

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版