网易首页 > 网易号 > 正文 申请入驻

本地模型REA能不能行?断网硬啃固件92分钟,结果离谱

0
分享至

作者:伯衡君


8GB显卡能逆向工程代码吗?这台AI自己查了一小时

概述

一块 RTX 3070,8GB 显存;一个 270 亿参数的模型,被压缩到每个权重不到两个比特;一段剥光了符号的 3D 打印机固件。

没有源码,没有文档,不联网,不上云。

这台本地 AI 接到的任务,是靠自己从二进制里搞懂怎么和这段固件通信。更狠的是,编译前故意改了两个协议值——所以哪怕你背熟了 Klipper 的公开资料,也套不到任何现成答案。

唯一的路,就是盯着那段二进制硬啃。

我盯着屏幕看它跑了 92 分钟,最后得了个 2.5/5 分。这篇把这个实验完整拆开。

真的很离谱。

前情提要

有关REA的反编译案例,伯衡君此前介绍过,感兴趣的读者朋友可以参阅这两篇文章《再聊REA?扔个EXE给AI,几分钟手搓出开源替代品》和《太离谱了!8天狂揽5.7万星:这个AI黑科技无源码也能偷师App》。

给本地AI的一个挑战

先看任务。给你一块 8GB 显卡上的本地 AI,你会让它干什么?我今天就把它交给一段 3D 打印机固件,让它自己搞清楚怎么和这东西通信。跑的是 Ternary Bonsai 2,一个 270 亿参数的模型,装在一张 RTX 3070 上,旁边配着 REA 和 Ghidra——给它工具去检查编译后的代码。

关键来了:这是 Klipper 固件没错,但编译之前偷偷改了两个协议值,还剥掉了所有符号、把源码藏得远远的,一点不给 agent 看。

它要做的,是把原始消息翻译成能读懂的指令。

没有源码、没有文档、没有网,全靠一块显卡。

这不是背题库,这是现场解题。就像把一个考生关进教室,只给一套陌生试卷,还不让翻书。

能不能交卷,全看它自己。

你让一台本地 AI 干这种事,等于让一个从没出过远门的人去破案。

它连"这案子是啥"都得先自己查出来。

REA到底是什么

先把 REA 说清楚。



它全称 Reverse Engineer Anything,逆向工程一切。

逆向工程说白了,就是把东西拆开,看它到底怎么工作的——就像打开一块钟表,找找是什么在拨动指针。

没人给你发过说明书,你得靠零件自己推。

REA 对软件干的就是这件事:你把一个程序指向它,哪怕没有源码、没有文档,它也能搞明白程序内部在发生什么。普通 AI 模型做不到——它们只能背训练时见过的东西,没法真的去"看"一个陌生程序。

说穿了,一个靠记忆,一个靠动手。记忆会过时,动手不会。这俩压根不是一回事。你能记住一万道题,但你第一次见一道新题,还是得现场推。

你能背一百个案例,可面对第一百零一个,你还是得从头分析。

这,就是 REA 存在的意义。

它让 AI 从"背过的"升级成"能查的"。

这玩意儿有什么用

那实际能拿它干嘛?



举几个例子。你玩游戏,存档写进一个文件,打开一看全是乱码数字。里面藏着你的血量、金币、在第几关,但没告诉你哪个数字对应哪个。

写这个文件的程序知道布局,REA 读一遍程序,就告诉你答案。

再比如你的扫地机器人,只能通过厂商 App 操作,你更想把它接到自家服务器上——REA 能从固件里挖出通信协议。

你家里的智能音箱、智能门锁、智能灯泡,每个都有自己的一套协议,厂商不公开,你就只能干瞪眼。

REA 能帮你把这些都读明白。这思路说白了就是:你手里的东西,不该只有厂商一个人懂。你买的,你就有权知道它怎么运作。你花钱买的机器,凭什么只有厂商能修、能连、能折腾?这不合理。你想自己修个东西,厂商却把图纸锁起来,这像话吗?

谁的钱,谁做主。

能指向哪些目标

能指向的东西,比我想象的多。

文档里有张表,很长。



简化几个看看:Windows EXE 或 Mac 应用——得到可读的伪代码、汇编、内部文本字符串、调用关系图,不过得配一个 Ghidra 反汇编器,免费。

Android 应用——拿到 manifest、文本、自带语言。甚至还有浏览器会话、游戏存档、物联网设备固件、Linux 二进制……基本你能想到的软件形态,它都接得住。

列表长到我看完都愣了一下。你手上那些看不懂的二进制,它基本都能扒。你能想到的,它基本都接。

从手机 App 到扫地机器人,从存档到固件,一网打尽。这哪是工具,这是万能钥匙。你还在愁怎么打开一个文件,它已经帮你把整个程序摊开看了。覆盖面广到让人怀疑,这工具是不是什么都能拆。

你手头最头疼的那个文件,它接得住吗?

REA的四步循环

REA 怎么干活的?



四步,循环着来。

第一步问——你的 agent 指向自己机器上某个东西,App、程序文件、浏览器会话。

第二步 REA 检查和追踪,这是最关键的——它不是背训练时读到的内容,而是真的对面前这个文件跑真实的分析工具。

第三步你读证据——REA 交回它发现了什么,附上支撑的代码、这段代码还在哪里被用到。

第四步循环,你可以继续问。

这套循环,就是它越查越深的引擎。

问、查、读、循环——四个动作反复转,越转越深。每一次循环,它都比上一次更接近真相。它不靠猜,靠一步步查出来的证据堆。

这就像盖房子,一层一层往上垒,每一层都有实打实的地基。地基不稳,上面盖再多也是空的。

你问它一句,它就往前多查一步。

负责任地玩



开始之前有一句话:只对自己拥有的软件,或者获得许可打开的软件动手。



手里有文件,不等于有权限。许可证可能禁止,你当地的法律也可能禁止。这就是为什么所有实验都跑在自己从开源代码构建、放在自己机器上的固件里。逆向工程的边界,从来不是技术,是规矩。

你拿自己的东西研究,那叫本事;拿别人的东西乱搞,那叫惹祸。

你手里的工具再厉害,也抵不过一句"你没资格动"。这不是技术问题,是法律问题。你研究自己的硬盘、自己的存档、自己买的机器,没人管得着。可你要去拆别人家东西,那就是另一回事了。你手里的工具越强,越得掂量清楚该用在哪。这条线划得很清楚,你只要别越过去就行。

你研究的是自己的东西,就没人拦得住你。可你要动别人的,那性质就变了。

这次实验的配置



看看这次的具体配置。显卡是 NVIDIA RTX 3070,8GB 显存。



模型是 Ternary Bonsai 2,270 亿参数,PTQ 1_0 量化格式,磁盘上占约 5.5GB。模型还要给上下文缓存腾空间——64K 上下文窗口加 4bit KV 缓存,GPU 内存用到大约 7100MB。系统内存 24GB。



模型权重和上下文缓存都塞进 GPU 了,所以没往系统内存溢出。8GB 能装下 270 亿参数,这本身一年前想都不敢想。

你想想,把这么大一个模型塞进一张显卡,还得剩地方跑工具。挤是真挤,但它就是跑起来了。这就像把一头大象塞进一辆轿车,居然还开动了。

你说这显卡是多能扛?显存、上下文缓存、KV 缓存全挤在 8GB 里,还留了给工具的余量。

它没爆,已经很给面子了。

固件实验的目标



目标固件从 Klipper 构建——一个开源 3D 打印机项目。

固件就是控制器上跑的程序,那台小电脑负责执行命令、协调硬件。

这次把它编译到 STM32 微控制器上,然后剥掉了符号——符号是那些有用的名字,没了它们,编译后的代码就很难看懂。但 Klipper 是公开的,模型可能早就知道它的协议。所以提前改了那两个值。你要背 Klipper 资料?没用,答案是改过的。这道题,背题解不出来。

它把答案换了个位置,你背得再熟也没辙。这招就叫"防背题"。

你以为是送分题,其实是道陷阱题。它专门防那种"我背过这个协议"的自信。

你越熟,越容易掉沟里。

所以别指望靠背题蒙过去,答案早被换过了。

用MCP把工具接进来



模型能生成文字,但要看懂二进制,得给它工具。这就是 MCP,模型上下文协议。它给 agent 一套标准方式:发现可用工具、调用、接收结果。

这套配置里,Bonsai 跑在 llama.cpp 上,Hermes 管理对话并执行工具请求,REA 通过 MCP 暴露分析工具,Ghidra 做底层二进制分析。模型可以请求 REA 打开固件、列函数、或者反汇编某一段。工具链是接上了。

没有这套协议,模型就是个只会说话的哑巴。

有了它,模型才长出了手。能说话,还能动手,这才叫完整的 agent。

你给它一双眼睛,它就真能看见东西了。它想看什么,就能看什么。你说,这算不算给它开了天眼?

正式开查

真正开始调查。

检查连接,给 agent 三个文件:编译好的固件、发往控制器的消息捕获、控制器返回的消息捕获。没有源码文件夹可翻,只能从二进制加流量硬推。



会话显示 REA 打开 ELF,识别为 ARM 架构。然后 agent 要概览、列过程列表,开始往里钻。

三个文件,一条线索,全凭它自己找。就像侦探进案发现场,只有物证,没有口供。它得靠现场,还原整个案情。你给它的,就这三样东西,剩下全靠它自己。它得先弄明白"这是啥",再想"这怎么玩"。每一步都得靠自己趟。

坦率说,它一直在绕圈。

整个运行 92 分 52 秒,最后没有一个能用的解码器。

设了个五部分评分:目标识别过了,框架和改动后的校验和值过了,整数编码部分过,但字典恢复和完整解码器没过——2.5/5。



打开答案键看看漏了啥:命令字典其实在固件里,但被压缩了。

调查一直在找,就是没找对地方。它找对了门,但没找对钥匙。钥匙在抽屉里,它却一直在翻书架。

方向对了,深度不够。差的那一步,就是整个实验的命门。五样里过了三样,但最关键的两样没拿下。

这就像解题解到最后一问,卡在最后一步。你卡在最后一步,那前面都对也没用。它到底差在哪?就差在最后那一下。

它查了一个半小时,还是没摸到那层窗户纸。方向、框架、整数都对,就是最后一步没踩实。

8GB到底够不够

对我来说最有意思的,是 8GB 居然够跑这个模型,还维持了一个工具驱动的调查跑一个半小时。

GPU 内存加载 64K 配置后 7119MB,结束时 7159MB——整个运行只漂了 40MB。



生成速度在采集的片段里约 42 到 33 token/秒,随上下文填满往下掉。

短提示更快,但我不该拿那个最佳值代表整个会话。

40MB 的漂移,稳定得离谱。

8GB 干成这事儿,确实值了。挤是挤了点,但它撑住了。一个半小时不崩,这本身就是个信号。

你说,这算不算小马拉大车?而且它不只是跑模型,还在同时跑分析工具。这负载,比单纯生成文本重多了。

它扛住了。你说这 8GB 是不是被榨干了?一个半小时稳定跑下来,这 8GB 算是物尽其用了。

卡在哪了

拦住这次运行的,不是知识。

模型读了 ARM 汇编,从剥了符号的二进制里拔出了两个它不可能猜到的值。

它缺的是策略——知道什么时候该停止搜索,回头重新想想问题长什么样。

这个差距正从两个方向收窄:模型越来越小但能力一样,270 亿参数塞进 6GB 以下,一年前根本不可能;工具迭代也快,REA 还在进化。

缺的那块,正在被补上。

会背,不如会想。

会查,不如会停。

会钻,不如会退一步。

下一步缺的不是更猛的模型,是更聪明的打法。

模型已经在变聪明,工具也已经在变强。

缺的那块,迟早会被补上。

它卡住的不是"不会",是"没换个角度"。它到底缺啥?缺的是一步退后。就差那么一下,它就通了。

它缺的不是蛮力,是那一回头。

就差那一步,它就全通了。

篇后寄语

这次实验最打动我的,不是 AI 做到了什么,而是它卡在哪。

模型有知识,读得懂 ARM 汇编,能从一个没有名字的二进制里挖出两个不可能猜到的值——但它缺策略,不知道什么时候该停下来,换个角度重新看问题。

这恰恰说明:AI 的能力边界不在"知道多少",而在"会不会换个思路"。

而这个缺口,正在从模型压缩和工具迭代两个方向同时收窄。你手上的显卡,也许比你想象的更有用。

概念释义

  • REA(Reverse Engineer Anything):一个逆向工程工具/框架,让 AI 能对真实文件跑真实分析,即使无源码无文档。
  • MCP(Model Context Protocol):模型上下文协议,给 AI agent 一套标准方式发现和调用外部工具。
  • Ghidra:NSA 开源的逆向工程工具,可反汇编、反编译二进制程序。
  • Ternary Bonsai 2:一个 270 亿参数的量化 AI 模型,可在 8GB 显存本地运行。

以上,既然看到这里了,如果觉得不错,随手点个赞、收藏、转发三连吧,如果想第一时间收到最新黑科技,敬请关注行运设计师。

谢谢你看我的文章,我们,下次再见。

参考资料

  • REA(Reverse Engineer Anything)项目主页
  • MCP(Model Context Protocol)规范
  • Ghidra 逆向工程工具
  • Klipper 3D 打印机固件开源项目

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深圳APEC落幕,美国全链条锁死中国科技,新的世纪大围堵正式打响

深圳APEC落幕,美国全链条锁死中国科技,新的世纪大围堵正式打响

孝沛与世界
2026-11-22 00:34:08
女孩嫌被强行进入,男友被判3年:出狱后女友邀他缠绵,同居1个月他杀死女友

女孩嫌被强行进入,男友被判3年:出狱后女友邀他缠绵,同居1个月他杀死女友

汉史趣闻
2026-11-22 09:19:49
64岁女总统挤民航经济舱来开会,“寒酸”还是正常?

64岁女总统挤民航经济舱来开会,“寒酸”还是正常?

山间听雨
2026-11-20 19:27:54
36岁女演员公布病情:扁桃体频繁发炎,决定手术切除;专家:注意这几种情况

36岁女演员公布病情:扁桃体频繁发炎,决定手术切除;专家:注意这几种情况

上观新闻
2026-11-21 16:10:05
突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

大厂财经社
2026-11-22 11:23:39
“穿上一热臭得要命!”女子500元买的羽绒服剪开一看气坏了,“真是花钱遭罪”;提醒:认准这几个字

“穿上一热臭得要命!”女子500元买的羽绒服剪开一看气坏了,“真是花钱遭罪”;提醒:认准这几个字

新民周刊
2026-11-22 13:04:22
逼急了!网传广东一男子沉迷每晚玩魔兽,妻子劝说无果,公布其游戏ID号召网友凌晨上线截杀

逼急了!网传广东一男子沉迷每晚玩魔兽,妻子劝说无果,公布其游戏ID号召网友凌晨上线截杀

火山詩话
2026-11-20 12:08:28
万斯与特朗普之间的差距有多大?就这么说吧,万斯一旦上台,美国很有可能会迎来翻天覆地的变化

万斯与特朗普之间的差距有多大?就这么说吧,万斯一旦上台,美国很有可能会迎来翻天覆地的变化

千年历史老号
2026-11-20 13:13:36
中国灵活就业人数达3.2亿人!占就业人口的44%,太恐惧了!

中国灵活就业人数达3.2亿人!占就业人口的44%,太恐惧了!

廖保平
2026-11-22 09:20:01
停开6年后,“人一生必须坐一次”的K3/4次列车焕新重启,沿途停靠15个站点

停开6年后,“人一生必须坐一次”的K3/4次列车焕新重启,沿途停靠15个站点

红星新闻
2026-11-21 21:40:12
继刘欢之后,66岁郎平也步入后尘,1周至少要做3次治疗,现状忧心

继刘欢之后,66岁郎平也步入后尘,1周至少要做3次治疗,现状忧心

往史过眼云烟
2026-11-21 11:30:59
一位日本华人表示“讲实话,中日如果开战,中国是打不过日本的

一位日本华人表示“讲实话,中日如果开战,中国是打不过日本的

果妈聊娱乐
2026-11-22 09:10:56
断交18年后重大转向!格鲁吉亚外长发声:必须克服与俄谈判恐惧

断交18年后重大转向!格鲁吉亚外长发声:必须克服与俄谈判恐惧

麓谷隐士
2026-11-22 00:05:04
网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

网红“东北雨姐”仍潇洒! 参加山东饭局,喝300多一瓶的汾酒,席间倒酒喝酒动作太豪横,一口闷

裕丰娱间说
2026-11-21 14:26:14
破坏家庭,不正当交流!跑步被贴上负面标签

破坏家庭,不正当交流!跑步被贴上负面标签

跑者排球视角
2026-11-21 08:36:33
黎曼猜想迎来大结局!Lean官方认证:Claude证明无误

黎曼猜想迎来大结局!Lean官方认证:Claude证明无误

新智元
2026-11-22 07:36:48
上海一家三口频繁咳嗽生病!卧室墙皮“酥得掉渣”、霉菌遍布……爸爸崩溃

上海一家三口频繁咳嗽生病!卧室墙皮“酥得掉渣”、霉菌遍布……爸爸崩溃

上观新闻
2026-11-22 11:23:24
特朗普:预计所有主要世界领导人将出席下个月在美举行的G20峰会

特朗普:预计所有主要世界领导人将出席下个月在美举行的G20峰会

咸鱼金脑袋
2026-11-22 11:58:01
金价跌势凌厉,多家银行发布紧急提示

金价跌势凌厉,多家银行发布紧急提示

澎湃新闻
2026-11-22 08:47:03
突然,全线拉升!美伊局势,传来利好消息

突然,全线拉升!美伊局势,传来利好消息

新浪财经
2026-11-22 10:21:29
2026-11-22 15:19:00
呼呼历史论
呼呼历史论
分享有趣的历史
730文章数 18751关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
本地
房产
公开课
军事航空

手机要闻

DOOGEE Wide Core亮相,6500mAh电池、紫光展锐T7250处理器

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版