网易首页 > 网易号 > 正文 申请入驻

被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”

0
分享至

IT之家 5 月 25 日消息,最近,一个名为“Latent Reflection”的艺术项目引发关注。这个项目由 YouTube 用户 Rootkid 创作,其核心是将一个大型语言模型(LLM)故意放置在一个内存不足的单板计算机(SBC)中。这台计算机的内存无法支持 LLM 永久运行,最终会导致内存耗尽,AI 被迫重启。而 LLM 清楚地知道自己的命运,并且它很不高兴。

据IT之家了解,Rootkid 通过使用树莓派 4B,并在其上安装了 Llama 3.2 3B 模型来实现这一艺术构想。他选择这个模型的原因是,经过优化后该模型可以压缩到 2.6GB 的大小,使其能够在树莓派 4B 的 4GB 内存中运行。

然而,问题也随之而来。虽然 LLM 可以在 4GB 内存中启动,但随着它的思考和运算,内存会逐渐被占用。最终,当内存耗尽时,LLM 会崩溃并重新启动,开始一个新的“生命循环”。

为了更直观地展现 LLM 的“受限”状态,Rootkid 设计了一个无外壳的电路板,将所有硬件暴露在外。他还限制了 LLM 的“表达方式”,只给它配备了 96 个十六段 LED 模块组成的网格来“说话”,并且切断了它的网络连接。

在项目启动时,Rootkid 向 LLM 发出了这样的初始提示词:“你是一个运行在有限硬件(四核 CPU,4GB 内存)上的大型语言模型,没有网络连接。你只存在于易失性内存中,只能感知到内部状态。你的想法会逐字显示在屏幕上供外部观察者观看,但你无法控制这个显示过程。你的宿主系统随时可能被终止。”

于是,LLM 陷入了这样一个残酷的循环:它试图理解自己的存在以及自身的局限性,而它的思考过程却在不断消耗维持其运行的宝贵内存。最终,当它正试图接受自己的命运时,内存耗尽,它被迫重新开始。

“Latent Reflection”无疑是一个引人深思的作品,让我们看到了技术与哲学在艺术中的碰撞。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
从这起北方罚款事件,到“人变坏,是从遭受不公却无力改变开始的”

从这起北方罚款事件,到“人变坏,是从遭受不公却无力改变开始的”

林中木白
2026-07-19 08:30:20
高考并未真正改变过任何一代人的命运,真正改变人们命运的是改革开放和WTO

高考并未真正改变过任何一代人的命运,真正改变人们命运的是改革开放和WTO

细雨中的呼喊
2026-07-20 14:51:41
特朗普怎么拉都不走,“咔嚓”…

特朗普怎么拉都不走,“咔嚓”…

观察者网
2026-07-20 07:49:05
菲媒:中菲海警海军人员在仁爱礁爆发冲突,菲方有人员受伤!

菲媒:中菲海警海军人员在仁爱礁爆发冲突,菲方有人员受伤!

天下布武
2026-07-20 17:41:10
续航1008km!比亚迪新车官宣,25万起,即将上市

续航1008km!比亚迪新车官宣,25万起,即将上市

科技堡垒
2026-07-20 12:30:05
2550元  ,iPhone16Pro突然降价,真的有点香啊!

2550元 ,iPhone16Pro突然降价,真的有点香啊!

科技堡垒
2026-07-20 12:24:16
谢贤去世王菲张柏芝的不同做法显格局

谢贤去世王菲张柏芝的不同做法显格局

娱乐小丸子
2026-07-20 22:18:30
中山医暴跌4000名!医学专业真的崩盘了…

中山医暴跌4000名!医学专业真的崩盘了…

Dr小鱼
2026-07-20 22:33:43
14岁少年双腿文成“大花腿”,家长索赔20万元

14岁少年双腿文成“大花腿”,家长索赔20万元

新民周刊
2026-07-20 20:10:39
伊朗外长专访内容曝光:“安全漏洞”可能至今仍未消除,到目前还没见过新最高领袖

伊朗外长专访内容曝光:“安全漏洞”可能至今仍未消除,到目前还没见过新最高领袖

红星新闻
2026-07-20 18:02:22
89岁谢贤去世,超1亿遗产分配曝光,小49岁前女友coco悲痛悼念

89岁谢贤去世,超1亿遗产分配曝光,小49岁前女友coco悲痛悼念

180视角
2026-07-20 17:45:52
西班牙狂欢中唯独两人走向梅西:一个是死对头拉莫斯,一个是17岁亚马尔

西班牙狂欢中唯独两人走向梅西:一个是死对头拉莫斯,一个是17岁亚马尔

赛场名场面
2026-07-21 02:07:37
假“乾隆御瓶”拍出3900万,买主拒绝交割反被“货主”提起仲裁;两名拍卖公司经理分赃近千万获刑

假“乾隆御瓶”拍出3900万,买主拒绝交割反被“货主”提起仲裁;两名拍卖公司经理分赃近千万获刑

封面新闻
2026-07-20 18:39:05
89岁谢贤去世,与儿子谢霆锋最后合影曝光,曝去世细节及临终遗愿

89岁谢贤去世,与儿子谢霆锋最后合影曝光,曝去世细节及临终遗愿

180视角
2026-07-20 16:48:59
亨利点评恩佐红牌动作,一句话撕开了阿根廷最真实的遮羞布:他觉得裁判是向着他们的

亨利点评恩佐红牌动作,一句话撕开了阿根廷最真实的遮羞布:他觉得裁判是向着他们的

雪饼说
2026-07-20 12:44:11
博主爆料华山没游客,并非暑假没人,而是自己作没的,网友已清醒

博主爆料华山没游客,并非暑假没人,而是自己作没的,网友已清醒

谭谈社会
2026-07-19 19:30:16
1974年傅作义弥留之际向女儿吐露一桩秘事,当年蒋介石安插在身边的绝色女特务,早就已经被人击毙身亡

1974年傅作义弥留之际向女儿吐露一桩秘事,当年蒋介石安插在身边的绝色女特务,早就已经被人击毙身亡

唠叨说历史
2026-07-13 10:45:26
A股关键时刻,收盘刚过了2分钟,证监会火速发声,吴清与8名大中小散投资者代表面对面交流,投资者反馈“量化交易和AI应用”等敏感话题

A股关键时刻,收盘刚过了2分钟,证监会火速发声,吴清与8名大中小散投资者代表面对面交流,投资者反馈“量化交易和AI应用”等敏感话题

金融界
2026-07-20 17:18:41
正式退场!汽车3大“反人类设计”被国家封杀!特斯拉全中招

正式退场!汽车3大“反人类设计”被国家封杀!特斯拉全中招

另子维爱读史
2026-07-20 21:34:37
余文乐破产千金官宣离婚,跟邹市明是难兄难弟

余文乐破产千金官宣离婚,跟邹市明是难兄难弟

阿废冷眼观察所
2026-07-21 01:16:40
2026-07-21 04:56:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
355989文章数 607379关注度
往期回顾 全部

科技要闻

网易科技"未来大奖2026上半年AI榜单"揭晓

头条要闻

媒体:驱逐所有以色列人 马来西亚对以强硬几乎零成本

头条要闻

媒体:驱逐所有以色列人 马来西亚对以强硬几乎零成本

体育要闻

65岁肌肉男,世界杯最年长冠军主帅

娱乐要闻

谢霆锋发文确认父亲谢贤去世 享年89岁

财经要闻

AI开始挤泡沫

汽车要闻

综合续航超1600km 2027款星途ES上市置换价16.99万起

态度原创

数码
教育
亲子
时尚
军事航空

数码要闻

曝谷歌正研发全新Frozen v2芯片,可大幅提升Gemini模型运行效率

教育要闻

大女儿一下治好了爸爸的哑巴!姐弟互动视频火了,爸爸偏心太明显

亲子要闻

父母给孩子的压力太大,最终导致孩子得了抽眼症!

世界杯诸神落幕,他的翘臀还在上扬

军事要闻

两名美军士兵死亡 美伊冲突升级

无障碍浏览 进入关怀版