网易首页 > 网易号 > 正文 申请入驻

被困在 4GB 内存里的 Llama 3.2:AI 在树莓派中上演“死亡循环”

0
分享至

IT之家 5 月 25 日消息,最近,一个名为“Latent Reflection”的艺术项目引发关注。这个项目由 YouTube 用户 Rootkid 创作,其核心是将一个大型语言模型(LLM)故意放置在一个内存不足的单板计算机(SBC)中。这台计算机的内存无法支持 LLM 永久运行,最终会导致内存耗尽,AI 被迫重启。而 LLM 清楚地知道自己的命运,并且它很不高兴。

据IT之家了解,Rootkid 通过使用树莓派 4B,并在其上安装了 Llama 3.2 3B 模型来实现这一艺术构想。他选择这个模型的原因是,经过优化后该模型可以压缩到 2.6GB 的大小,使其能够在树莓派 4B 的 4GB 内存中运行。

然而,问题也随之而来。虽然 LLM 可以在 4GB 内存中启动,但随着它的思考和运算,内存会逐渐被占用。最终,当内存耗尽时,LLM 会崩溃并重新启动,开始一个新的“生命循环”。

为了更直观地展现 LLM 的“受限”状态,Rootkid 设计了一个无外壳的电路板,将所有硬件暴露在外。他还限制了 LLM 的“表达方式”,只给它配备了 96 个十六段 LED 模块组成的网格来“说话”,并且切断了它的网络连接。

在项目启动时,Rootkid 向 LLM 发出了这样的初始提示词:“你是一个运行在有限硬件(四核 CPU,4GB 内存)上的大型语言模型,没有网络连接。你只存在于易失性内存中,只能感知到内部状态。你的想法会逐字显示在屏幕上供外部观察者观看,但你无法控制这个显示过程。你的宿主系统随时可能被终止。”

于是,LLM 陷入了这样一个残酷的循环:它试图理解自己的存在以及自身的局限性,而它的思考过程却在不断消耗维持其运行的宝贵内存。最终,当它正试图接受自己的命运时,内存耗尽,它被迫重新开始。

“Latent Reflection”无疑是一个引人深思的作品,让我们看到了技术与哲学在艺术中的碰撞。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
霍启山被曝和娜然婚期临近,女方素颜生图曝光状态绝了

霍启山被曝和娜然婚期临近,女方素颜生图曝光状态绝了

橙星文娱
2026-03-28 11:42:28
催人泪下!张雪峰常把家乡高校当避坑指南,当地送挽联以最高敬意

催人泪下!张雪峰常把家乡高校当避坑指南,当地送挽联以最高敬意

火山詩话
2026-03-28 06:26:33
退休以后,提醒大家:尽量别让任何人知道你的状态,尤其这5件事

退休以后,提醒大家:尽量别让任何人知道你的状态,尤其这5件事

小谈食刻美食
2026-03-28 09:42:18
矛盾升级,王钰栋再发社媒硬刚球迷,称只能再发一次再爽一次了

矛盾升级,王钰栋再发社媒硬刚球迷,称只能再发一次再爽一次了

体坛风之子
2026-03-28 04:30:03
浙江加时险胜青岛:程帅澎24分19罚18中献绝平3罚 韦瑟斯庞39+7

浙江加时险胜青岛:程帅澎24分19罚18中献绝平3罚 韦瑟斯庞39+7

醉卧浮生
2026-03-28 22:07:45
邀请赛:“徐州姆巴佩”苗润东发挥抢眼,U19国足1比0击败澳大利亚

邀请赛:“徐州姆巴佩”苗润东发挥抢眼,U19国足1比0击败澳大利亚

足球报
2026-03-28 16:56:47
大马丁:这是我们踢得最差的比赛之一;这是一记及时的警钟

大马丁:这是我们踢得最差的比赛之一;这是一记及时的警钟

懂球帝
2026-03-28 11:03:16
特朗普,“最后一击”

特朗普,“最后一击”

中国新闻周刊
2026-03-28 21:38:09
俄富豪“自愿捐款”1千亿!俄罗斯面临危机,普京召见寡头要钱

俄富豪“自愿捐款”1千亿!俄罗斯面临危机,普京召见寡头要钱

说历史的老牢
2026-03-28 05:15:26
41岁单亲妈妈因“涉黑”被羁押821天后无罪释放,申请国家赔偿仅13天就被叫停,法院认定无罪警方又以骗贷为由再立案,检察院回应

41岁单亲妈妈因“涉黑”被羁押821天后无罪释放,申请国家赔偿仅13天就被叫停,法院认定无罪警方又以骗贷为由再立案,检察院回应

大风新闻
2026-03-28 12:10:12
当着郑丽文、韩国瑜的面,洪秀柱高喊:一中就是中国,台湾加大陆

当着郑丽文、韩国瑜的面,洪秀柱高喊:一中就是中国,台湾加大陆

悄悄史话
2026-03-29 00:14:06
“斩首术”应该获诺贝尔奖?如此“让领导先走”,真是伟大创造吗

“斩首术”应该获诺贝尔奖?如此“让领导先走”,真是伟大创造吗

瑜说还休
2026-03-27 17:31:33
iOS 紧急发布系统更新提醒,建议升级!

iOS 紧急发布系统更新提醒,建议升级!

花果科技
2026-03-29 00:02:21
张雪峰女儿发声悼念惹泪目,员工回应其二婚爆料,灵堂遗照已曝光

张雪峰女儿发声悼念惹泪目,员工回应其二婚爆料,灵堂遗照已曝光

小徐讲八卦
2026-03-28 06:21:26
不服就干!比利时打响反华第一枪,通告全球,断的就是中方退路

不服就干!比利时打响反华第一枪,通告全球,断的就是中方退路

三石记
2026-03-28 18:10:24
当你知道某些真相后,有些东西再也无法直视了!网友:真得少吃

当你知道某些真相后,有些东西再也无法直视了!网友:真得少吃

夜深爱杂谈
2026-03-28 18:18:32
为什么要加入CPTPP?啃不下这6块硬骨头,未来中国可能会很难!

为什么要加入CPTPP?啃不下这6块硬骨头,未来中国可能会很难!

世界圈
2026-03-28 12:25:46
损失26.4万美元!NBA官方:东契奇领到16次技犯 将被无薪禁赛一场

损失26.4万美元!NBA官方:东契奇领到16次技犯 将被无薪禁赛一场

罗说NBA
2026-03-29 06:23:47
我嫁给不能生育的迪拜富商,不到3个月我竟孕吐不止,医生:恭喜

我嫁给不能生育的迪拜富商,不到3个月我竟孕吐不止,医生:恭喜

千秋文化
2026-03-25 21:42:08
原纱央莉老师1.5亿天价片酬,一个人推动了整个暗黑业界的发展

原纱央莉老师1.5亿天价片酬,一个人推动了整个暗黑业界的发展

吃瓜党二号头目
2026-03-28 10:01:53
2026-03-29 06:48:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
336446文章数 607096关注度
往期回顾 全部

科技要闻

华为盘古大模型负责人王云鹤确认离职

头条要闻

美媒:和欧盟"外长"发生激烈交锋 鲁比奥"显然很恼火"

头条要闻

美媒:和欧盟"外长"发生激烈交锋 鲁比奥"显然很恼火"

体育要闻

“我是全家最差劲的运动员”

娱乐要闻

陈牧驰陈冰官宣得子 晒一家三口握拳照

财经要闻

卧底"科技与狠活"培训:化工调味剂泛滥

汽车要闻

置换补贴价4.28万起 第五代宏光MINIEV正式上市

态度原创

本地
游戏
手机
时尚
公开课

本地新闻

在潍坊待了三天,没遇到一个“潍坊人”

《异替》现已登陆Steam

手机要闻

首款骁龙8 Gen5小平板来了!OPPO Pad mini真机现身

和田曦薇一样嫩嘟嘟,这3个变美技巧你一定不能错过!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版