作者:伯衡君
![]()
8GB显卡能逆向工程代码吗?这台AI自己查了一小时
概述
一块 RTX 3070,8GB 显存;一个 270 亿参数的模型,被压缩到每个权重不到两个比特;一段剥光了符号的 3D 打印机固件。
没有源码,没有文档,不联网,不上云。
这台本地 AI 接到的任务,是靠自己从二进制里搞懂怎么和这段固件通信。更狠的是,编译前故意改了两个协议值——所以哪怕你背熟了 Klipper 的公开资料,也套不到任何现成答案。
唯一的路,就是盯着那段二进制硬啃。
我盯着屏幕看它跑了 92 分钟,最后得了个 2.5/5 分。这篇把这个实验完整拆开。
真的很离谱。
前情提要
有关REA的反编译案例,伯衡君此前介绍过,感兴趣的读者朋友可以参阅这两篇文章《再聊REA?扔个EXE给AI,几分钟手搓出开源替代品》和《太离谱了!8天狂揽5.7万星:这个AI黑科技无源码也能偷师App》。
给本地AI的一个挑战
先看任务。给你一块 8GB 显卡上的本地 AI,你会让它干什么?我今天就把它交给一段 3D 打印机固件,让它自己搞清楚怎么和这东西通信。跑的是 Ternary Bonsai 2,一个 270 亿参数的模型,装在一张 RTX 3070 上,旁边配着 REA 和 Ghidra——给它工具去检查编译后的代码。
关键来了:这是 Klipper 固件没错,但编译之前偷偷改了两个协议值,还剥掉了所有符号、把源码藏得远远的,一点不给 agent 看。
它要做的,是把原始消息翻译成能读懂的指令。
没有源码、没有文档、没有网,全靠一块显卡。
这不是背题库,这是现场解题。就像把一个考生关进教室,只给一套陌生试卷,还不让翻书。
能不能交卷,全看它自己。
你让一台本地 AI 干这种事,等于让一个从没出过远门的人去破案。
它连"这案子是啥"都得先自己查出来。
REA到底是什么
先把 REA 说清楚。
![]()
它全称 Reverse Engineer Anything,逆向工程一切。
逆向工程说白了,就是把东西拆开,看它到底怎么工作的——就像打开一块钟表,找找是什么在拨动指针。
没人给你发过说明书,你得靠零件自己推。
REA 对软件干的就是这件事:你把一个程序指向它,哪怕没有源码、没有文档,它也能搞明白程序内部在发生什么。普通 AI 模型做不到——它们只能背训练时见过的东西,没法真的去"看"一个陌生程序。
说穿了,一个靠记忆,一个靠动手。记忆会过时,动手不会。这俩压根不是一回事。你能记住一万道题,但你第一次见一道新题,还是得现场推。
你能背一百个案例,可面对第一百零一个,你还是得从头分析。
这,就是 REA 存在的意义。
它让 AI 从"背过的"升级成"能查的"。
这玩意儿有什么用
那实际能拿它干嘛?
![]()
举几个例子。你玩游戏,存档写进一个文件,打开一看全是乱码数字。里面藏着你的血量、金币、在第几关,但没告诉你哪个数字对应哪个。
写这个文件的程序知道布局,REA 读一遍程序,就告诉你答案。
再比如你的扫地机器人,只能通过厂商 App 操作,你更想把它接到自家服务器上——REA 能从固件里挖出通信协议。
你家里的智能音箱、智能门锁、智能灯泡,每个都有自己的一套协议,厂商不公开,你就只能干瞪眼。
REA 能帮你把这些都读明白。这思路说白了就是:你手里的东西,不该只有厂商一个人懂。你买的,你就有权知道它怎么运作。你花钱买的机器,凭什么只有厂商能修、能连、能折腾?这不合理。你想自己修个东西,厂商却把图纸锁起来,这像话吗?
谁的钱,谁做主。
能指向哪些目标
能指向的东西,比我想象的多。
文档里有张表,很长。
![]()
简化几个看看:Windows EXE 或 Mac 应用——得到可读的伪代码、汇编、内部文本字符串、调用关系图,不过得配一个 Ghidra 反汇编器,免费。
Android 应用——拿到 manifest、文本、自带语言。甚至还有浏览器会话、游戏存档、物联网设备固件、Linux 二进制……基本你能想到的软件形态,它都接得住。
列表长到我看完都愣了一下。你手上那些看不懂的二进制,它基本都能扒。你能想到的,它基本都接。
从手机 App 到扫地机器人,从存档到固件,一网打尽。这哪是工具,这是万能钥匙。你还在愁怎么打开一个文件,它已经帮你把整个程序摊开看了。覆盖面广到让人怀疑,这工具是不是什么都能拆。
你手头最头疼的那个文件,它接得住吗?
REA的四步循环
REA 怎么干活的?
![]()
四步,循环着来。
第一步问——你的 agent 指向自己机器上某个东西,App、程序文件、浏览器会话。
第二步 REA 检查和追踪,这是最关键的——它不是背训练时读到的内容,而是真的对面前这个文件跑真实的分析工具。
第三步你读证据——REA 交回它发现了什么,附上支撑的代码、这段代码还在哪里被用到。
第四步循环,你可以继续问。
这套循环,就是它越查越深的引擎。
问、查、读、循环——四个动作反复转,越转越深。每一次循环,它都比上一次更接近真相。它不靠猜,靠一步步查出来的证据堆。
这就像盖房子,一层一层往上垒,每一层都有实打实的地基。地基不稳,上面盖再多也是空的。
你问它一句,它就往前多查一步。
负责任地玩
![]()
开始之前有一句话:只对自己拥有的软件,或者获得许可打开的软件动手。
![]()
手里有文件,不等于有权限。许可证可能禁止,你当地的法律也可能禁止。这就是为什么所有实验都跑在自己从开源代码构建、放在自己机器上的固件里。逆向工程的边界,从来不是技术,是规矩。
你拿自己的东西研究,那叫本事;拿别人的东西乱搞,那叫惹祸。
你手里的工具再厉害,也抵不过一句"你没资格动"。这不是技术问题,是法律问题。你研究自己的硬盘、自己的存档、自己买的机器,没人管得着。可你要去拆别人家东西,那就是另一回事了。你手里的工具越强,越得掂量清楚该用在哪。这条线划得很清楚,你只要别越过去就行。
你研究的是自己的东西,就没人拦得住你。可你要动别人的,那性质就变了。
这次实验的配置
![]()
看看这次的具体配置。显卡是 NVIDIA RTX 3070,8GB 显存。
![]()
模型是 Ternary Bonsai 2,270 亿参数,PTQ 1_0 量化格式,磁盘上占约 5.5GB。模型还要给上下文缓存腾空间——64K 上下文窗口加 4bit KV 缓存,GPU 内存用到大约 7100MB。系统内存 24GB。
![]()
模型权重和上下文缓存都塞进 GPU 了,所以没往系统内存溢出。8GB 能装下 270 亿参数,这本身一年前想都不敢想。
你想想,把这么大一个模型塞进一张显卡,还得剩地方跑工具。挤是真挤,但它就是跑起来了。这就像把一头大象塞进一辆轿车,居然还开动了。
你说这显卡是多能扛?显存、上下文缓存、KV 缓存全挤在 8GB 里,还留了给工具的余量。
它没爆,已经很给面子了。
固件实验的目标
![]()
目标固件从 Klipper 构建——一个开源 3D 打印机项目。
固件就是控制器上跑的程序,那台小电脑负责执行命令、协调硬件。
这次把它编译到 STM32 微控制器上,然后剥掉了符号——符号是那些有用的名字,没了它们,编译后的代码就很难看懂。但 Klipper 是公开的,模型可能早就知道它的协议。所以提前改了那两个值。你要背 Klipper 资料?没用,答案是改过的。这道题,背题解不出来。
它把答案换了个位置,你背得再熟也没辙。这招就叫"防背题"。
你以为是送分题,其实是道陷阱题。它专门防那种"我背过这个协议"的自信。
你越熟,越容易掉沟里。
所以别指望靠背题蒙过去,答案早被换过了。
用MCP把工具接进来
![]()
模型能生成文字,但要看懂二进制,得给它工具。这就是 MCP,模型上下文协议。它给 agent 一套标准方式:发现可用工具、调用、接收结果。
这套配置里,Bonsai 跑在 llama.cpp 上,Hermes 管理对话并执行工具请求,REA 通过 MCP 暴露分析工具,Ghidra 做底层二进制分析。模型可以请求 REA 打开固件、列函数、或者反汇编某一段。工具链是接上了。
没有这套协议,模型就是个只会说话的哑巴。
有了它,模型才长出了手。能说话,还能动手,这才叫完整的 agent。
你给它一双眼睛,它就真能看见东西了。它想看什么,就能看什么。你说,这算不算给它开了天眼?
正式开查
真正开始调查。
检查连接,给 agent 三个文件:编译好的固件、发往控制器的消息捕获、控制器返回的消息捕获。没有源码文件夹可翻,只能从二进制加流量硬推。
![]()
会话显示 REA 打开 ELF,识别为 ARM 架构。然后 agent 要概览、列过程列表,开始往里钻。
三个文件,一条线索,全凭它自己找。就像侦探进案发现场,只有物证,没有口供。它得靠现场,还原整个案情。你给它的,就这三样东西,剩下全靠它自己。它得先弄明白"这是啥",再想"这怎么玩"。每一步都得靠自己趟。
坦率说,它一直在绕圈。
整个运行 92 分 52 秒,最后没有一个能用的解码器。
设了个五部分评分:目标识别过了,框架和改动后的校验和值过了,整数编码部分过,但字典恢复和完整解码器没过——2.5/5。
![]()
打开答案键看看漏了啥:命令字典其实在固件里,但被压缩了。
调查一直在找,就是没找对地方。它找对了门,但没找对钥匙。钥匙在抽屉里,它却一直在翻书架。
方向对了,深度不够。差的那一步,就是整个实验的命门。五样里过了三样,但最关键的两样没拿下。
这就像解题解到最后一问,卡在最后一步。你卡在最后一步,那前面都对也没用。它到底差在哪?就差在最后那一下。
它查了一个半小时,还是没摸到那层窗户纸。方向、框架、整数都对,就是最后一步没踩实。
8GB到底够不够
对我来说最有意思的,是 8GB 居然够跑这个模型,还维持了一个工具驱动的调查跑一个半小时。
GPU 内存加载 64K 配置后 7119MB,结束时 7159MB——整个运行只漂了 40MB。
![]()
生成速度在采集的片段里约 42 到 33 token/秒,随上下文填满往下掉。
短提示更快,但我不该拿那个最佳值代表整个会话。
40MB 的漂移,稳定得离谱。
8GB 干成这事儿,确实值了。挤是挤了点,但它撑住了。一个半小时不崩,这本身就是个信号。
你说,这算不算小马拉大车?而且它不只是跑模型,还在同时跑分析工具。这负载,比单纯生成文本重多了。
它扛住了。你说这 8GB 是不是被榨干了?一个半小时稳定跑下来,这 8GB 算是物尽其用了。
卡在哪了
拦住这次运行的,不是知识。
模型读了 ARM 汇编,从剥了符号的二进制里拔出了两个它不可能猜到的值。
它缺的是策略——知道什么时候该停止搜索,回头重新想想问题长什么样。
这个差距正从两个方向收窄:模型越来越小但能力一样,270 亿参数塞进 6GB 以下,一年前根本不可能;工具迭代也快,REA 还在进化。
缺的那块,正在被补上。
会背,不如会想。
会查,不如会停。
会钻,不如会退一步。
下一步缺的不是更猛的模型,是更聪明的打法。
模型已经在变聪明,工具也已经在变强。
缺的那块,迟早会被补上。
它卡住的不是"不会",是"没换个角度"。它到底缺啥?缺的是一步退后。就差那么一下,它就通了。
它缺的不是蛮力,是那一回头。
就差那一步,它就全通了。
篇后寄语
这次实验最打动我的,不是 AI 做到了什么,而是它卡在哪。
模型有知识,读得懂 ARM 汇编,能从一个没有名字的二进制里挖出两个不可能猜到的值——但它缺策略,不知道什么时候该停下来,换个角度重新看问题。
这恰恰说明:AI 的能力边界不在"知道多少",而在"会不会换个思路"。
而这个缺口,正在从模型压缩和工具迭代两个方向同时收窄。你手上的显卡,也许比你想象的更有用。
概念释义
- REA(Reverse Engineer Anything):一个逆向工程工具/框架,让 AI 能对真实文件跑真实分析,即使无源码无文档。
- MCP(Model Context Protocol):模型上下文协议,给 AI agent 一套标准方式发现和调用外部工具。
- Ghidra:NSA 开源的逆向工程工具,可反汇编、反编译二进制程序。
- Ternary Bonsai 2:一个 270 亿参数的量化 AI 模型,可在 8GB 显存本地运行。
以上,既然看到这里了,如果觉得不错,随手点个赞、收藏、转发三连吧,如果想第一时间收到最新黑科技,敬请关注行运设计师。
谢谢你看我的文章,我们,下次再见。
参考资料
- REA(Reverse Engineer Anything)项目主页
- MCP(Model Context Protocol)规范
- Ghidra 逆向工程工具
- Klipper 3D 打印机固件开源项目
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.