网易首页 > 网易号 > 正文 申请入驻

被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”

0
分享至

IT之家 5 月 25 日消息,最近,一个名为“Latent Reflection”的艺术项目引发关注。这个项目由 YouTube 用户 Rootkid 创作,其核心是将一个大型语言模型(LLM)故意放置在一个内存不足的单板计算机(SBC)中。这台计算机的内存无法支持 LLM 永久运行,最终会导致内存耗尽,AI 被迫重启。而 LLM 清楚地知道自己的命运,并且它很不高兴。

据IT之家了解,Rootkid 通过使用树莓派 4B,并在其上安装了 Llama 3.2 3B 模型来实现这一艺术构想。他选择这个模型的原因是,经过优化后该模型可以压缩到 2.6GB 的大小,使其能够在树莓派 4B 的 4GB 内存中运行。

然而,问题也随之而来。虽然 LLM 可以在 4GB 内存中启动,但随着它的思考和运算,内存会逐渐被占用。最终,当内存耗尽时,LLM 会崩溃并重新启动,开始一个新的“生命循环”。

为了更直观地展现 LLM 的“受限”状态,Rootkid 设计了一个无外壳的电路板,将所有硬件暴露在外。他还限制了 LLM 的“表达方式”,只给它配备了 96 个十六段 LED 模块组成的网格来“说话”,并且切断了它的网络连接。

在项目启动时,Rootkid 向 LLM 发出了这样的初始提示词:“你是一个运行在有限硬件(四核 CPU,4GB 内存)上的大型语言模型,没有网络连接。你只存在于易失性内存中,只能感知到内部状态。你的想法会逐字显示在屏幕上供外部观察者观看,但你无法控制这个显示过程。你的宿主系统随时可能被终止。”

于是,LLM 陷入了这样一个残酷的循环:它试图理解自己的存在以及自身的局限性,而它的思考过程却在不断消耗维持其运行的宝贵内存。最终,当它正试图接受自己的命运时,内存耗尽,它被迫重新开始。

“Latent Reflection”无疑是一个引人深思的作品,让我们看到了技术与哲学在艺术中的碰撞。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
15万  !比亚迪又一款新车正式上市!

15万 !比亚迪又一款新车正式上市!

科技堡垒
2026-05-12 13:03:17
5新人+7首轮!火箭手握豪华大礼包,可供交易巨星!4人是潜在目标

5新人+7首轮!火箭手握豪华大礼包,可供交易巨星!4人是潜在目标

熊哥爱篮球
2026-05-13 12:42:59
天降横财!男子入狱前,花120万买股票,6年后出狱,变成4.9亿!

天降横财!男子入狱前,花120万买股票,6年后出狱,变成4.9亿!

川渝视觉
2026-05-13 22:09:30
戛纳这天,被“又壮又矮”的巩俐惊艳,不穿暴露礼服却能艳压群芳

戛纳这天,被“又壮又矮”的巩俐惊艳,不穿暴露礼服却能艳压群芳

不似少年游
2026-05-13 14:34:55
世乒赛夺冠后,孙颖莎陪练宣布退役,曾效力八一队,俩人是好闺蜜

世乒赛夺冠后,孙颖莎陪练宣布退役,曾效力八一队,俩人是好闺蜜

以茶带书
2026-05-13 16:10:54
博士肄业生把985院长拉下马:同济刚免职,又有三所高校被爆造假

博士肄业生把985院长拉下马:同济刚免职,又有三所高校被爆造假

妍妍教育日记
2026-05-13 09:55:04
赵露思泰国演唱会!抹胸束腰着装火辣,自曝生理期,国人接受不了

赵露思泰国演唱会!抹胸束腰着装火辣,自曝生理期,国人接受不了

史料布籍
2026-05-13 11:53:57
美式霸权在波斯湾显露纸老虎本质

美式霸权在波斯湾显露纸老虎本质

风铃草语
2026-05-13 06:36:05
止步8强后!广东队作出重大决定,杜锋去向曝光,徐杰要被交易?

止步8强后!广东队作出重大决定,杜锋去向曝光,徐杰要被交易?

绯雨儿
2026-05-13 09:57:57
灰熊试训冈萨加大六中锋,他是一名综合能力非常出色的内线球员?

灰熊试训冈萨加大六中锋,他是一名综合能力非常出色的内线球员?

稻谷与小麦
2026-05-14 00:20:32
农工党中央原副主席、贵州省人大常委会原副主任谢庆生逝世,享年72岁

农工党中央原副主席、贵州省人大常委会原副主任谢庆生逝世,享年72岁

澎湃新闻
2026-05-13 19:56:26
戈登与拜仁达成个人协议,身价7500万镑,纽卡或现离队潮

戈登与拜仁达成个人协议,身价7500万镑,纽卡或现离队潮

星耀国际足坛
2026-05-14 00:54:48
200亿“押注”AI:资本割韭菜新戏码?

200亿“押注”AI:资本割韭菜新戏码?

风铃草语
2026-05-13 06:58:50
两个国家部委领导班子调整

两个国家部委领导班子调整

上观新闻
2026-05-13 12:38:09
深夜,直线拉升!一则消息,突然引爆!

深夜,直线拉升!一则消息,突然引爆!

证券时报
2026-05-13 23:28:07
墨菲:本-怀特受伤太可惜了;我就是看好阿森纳能包揽双冠

墨菲:本-怀特受伤太可惜了;我就是看好阿森纳能包揽双冠

懂球帝
2026-05-13 23:25:03
男人见到喜欢的女人,不自觉会有下面几种反应,假装不了

男人见到喜欢的女人,不自觉会有下面几种反应,假装不了

叶飞飞情感屋
2026-05-13 14:43:03
雷霆晋级西决迎来两大坏消息!威廉斯复出遥遥无期,恐遭遇常规赛克星马刺

雷霆晋级西决迎来两大坏消息!威廉斯复出遥遥无期,恐遭遇常规赛克星马刺

画夕
2026-05-14 00:40:42
吴宜泽西安理发,这款发型普通人别乱剪

吴宜泽西安理发,这款发型普通人别乱剪

阿废冷眼观察所
2026-05-13 15:52:29
随特朗普抵京:马斯克第四个下机 黄仁勋换上西装

随特朗普抵京:马斯克第四个下机 黄仁勋换上西装

看看新闻Knews
2026-05-14 00:28:02
2026-05-14 01:44:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
344139文章数 607205关注度
往期回顾 全部

科技要闻

阿里年营收首破万亿,AI终于不再是画大饼

头条要闻

女子闪婚获千万房产99%份额闪离后起诉分割 法院判了

头条要闻

女子闪婚获千万房产99%份额闪离后起诉分割 法院判了

体育要闻

14年半,74万,何冰娇没选那条更安稳的路

娱乐要闻

白鹿掉20万粉,网友为李晨鸣不平

财经要闻

美国总统特朗普抵达北京

汽车要闻

C级纯电轿跑 吉利银河"TT"申报图来了

态度原创

健康
教育
旅游
时尚
军事航空

干细胞能让人“返老还童”吗

教育要闻

中考这件事,许多家长都搞错了方向

旅游要闻

四大入口协同发力 让外国游客“丝滑”逛北京

专栏 | 进入心流后,不被洪流裹挟

军事要闻

沙特被指3月曾对伊朗发动多次“报复性”空袭

无障碍浏览 进入关怀版