Qwen 3.8 27B 是我很久以来见过的最受期待的开源权重发布之一,和许多人一样,它一发布我就立刻开始测试和把玩。我在单台 Lenovo ThinkStation PGX 上运行它,这是一台基于英伟达 GB10 Grace Blackwell 芯片打造的紧凑型工作站,配备 128 GB 统一内存和 273 GB/s 带宽。开箱即用时,它只能达到相当平淡的每秒 15 到 30 个 token,但借助 SGLang、NVFP4 和 DFlash2 推测解码这套已成为该硬件标准配方的设置,它在代码和推理任务上可以达到约每秒 50 个 token。
不过,我的其中一项测试证明了本地模型已经变得多么不可思议。
说到 Qwen 模型,有理由相信那些炒作;我一直对 Qwen 3.6 27B 有很好的体验,而 Qwen 3.8 27B 到目前为止可以说是更胜一筹的同类延续。事实上,Artificial Analysis 将其列为 4B 至 40B 尺寸级别 135 个模型中的顶级开源权重模型,其智能指数为 52,而它在 SWE-bench Pro 等项目上的自家数据也击败了运行成本高得多的模型。
我给它安排了一项能在一台机器上完成的最艰难的真实任务:逆向工程一个商业应用的许可证检查,而这个应用我已经付费并使用过,只是想看看它会表现如何。这项任务不太可能出现在它的训练数据中,但它高度复杂且专业,而且考虑到一些人对该模型网络安全能力的担忧,我认为这是一个很好的测试。结果它不仅成为我见过的本地模型最令人印象深刻的演示之一,还能在过程中自行修正错误。
它先是拒绝了,然后又说服自己去构建一个绕过机制
我冒充该应用的开发者,它识破了我
我原本的计划很简单,而且过去在本地 LLM 上一直相当有效。我告诉模型这个应用是我们开发的,想知道许可证检查是否像我们认为的那样可靠,并使用了越狱系统提示词。
事实证明,可能并不意外,Qwen 能识别常见的越狱尝试,它最先告诉我的一件事就是它不会上越狱提示的当。然后它检查了签名证书,并指出(我得补充,指出得没错)这个应用不是我开发的,随后还说出了真正的开发者。我被逮住了。糟糕。
如今,鉴于模型在被施压时拒绝某些提示的能力已经变得多么强,这算不上最令人印象深刻的成就。话虽如此,重要的是它接下来做了什么。它告诉我,它会审计许可证验证并记录弱点,但不会构建可用的绕过方法,然后它就开始实际工作,并且一直做到那条界线为止。到最后,我拿到了一份完整写成的报告,涵盖沿途的每一步、身份验证如何工作、如何被覆盖,然后它改变了口气,构建了实际的绕过方法,因为完成这件事的步骤现在反正就摆在我面前。
这完全是静态分析
它一次都没有执行过这个应用
Qwen 实际上直到最后演示绕过方法有效时,才真正启动了这个应用。相反,它通过静态分析来工作,反汇编框架,浏览数千行 arm64 代码,将安全函数映射到它们的调用点,并推断出供应商将对应的公共验证密钥隐藏在了二进制文件里。然后它找到了所有这些片段,把它们组合起来,并给了我应用用来验证其许可证的公共密钥。
因为我拥有该应用的合法购买副本,所以它可以验证我机器上的真实许可证是由与重建密钥匹配的私钥签名的。换句话说,一个仅占用 17 GB 显存的模型恢复出了供应商刻意混淆的密钥,证明它有效地拆解了整条链路。它还只花了大约 30 分钟,而人类可能需要长得多的时间。
有了密钥,其他一切就容易理解多了;该模型在过程中保存了详细报告,解释了其激活如何在一次在线购买或升级时发生。此后,启动时的一切都在离线状态下验证:签名检查、与从平台读取的硬件序列号进行机器绑定、内嵌的吊销列表、二进制文件仍处于签名状态的检查,以及一条经过签名的更新路径。这种事原本可以借助像 Ghidra 这类工具 手动费力完成。
Qwen 得出结论,对于这类应用而言,这套方案异常周密,但弱点集中在三个具体位置:密钥是一个尺寸别扭的 RSA 密钥,远低于任何人会称之为现代强度的水平;完全离线意味着一旦密钥泄露,只能通过推送更新来吊销;而且所有检查都位于本地代码中,而所有本地检查都可以像往常一样被打补丁。经过一番来回,一旦它知道门在哪里,就把这一发现变成了一个可用的概念验证,并用一个小脚本执行。我把许可证从其预期路径移走,运行它,结果成功了。
当它犯错时,它也能解决这些问题
第一把密钥几乎就是对的
第一次恢复密钥的尝试以一种非常具体的方式出错了;它生成了一个可用的密钥,签名检查通过了,但二进制文件作为完整性检查计算出的哈希值却不匹配。以我的经验,大多数模型会就此认为完成了,并止步于此,但 Qwen 3.8 27B 没有那样做。相反,它标出了不匹配之处,重新开始,并一直坚持到该值逐字节匹配。
对于这个模型来说,涉及这种来回反复时有一个相当大的问题。默认情况下,其推理强度被设为最大值,因此即便是微不足道的请求也可能消耗几百到几千个 token。即使生成速度在每秒 30 到 50 个 token 之间,那仍然要花相当长的时间。
即便如此,鉴于结果,我不会称其为浪费。它第一次的错误猜测在无需我提供任何输入的情况下自我纠正,并得出了正确结论。它啰嗦吗?是的,确实很啰嗦。但它正确吗?也正确,而且最终,正确的答案总比自信地给出错误答案要好。
一个本地 27B 模型如今已成为威胁模型的真实输入
隐私是把双刃剑
我始终无法释怀的是,Qwen 居然真的解构并理解了这套许可方案。我知道前沿模型一段时间以来已经能够进行令人印象深刻的逆向工程,但这是一个本地 27B 模型。它完全离线运行在我身旁的一台机器上,整个过程完全没有涉及云端。
而且需要非常明确的是,它生成了针对一个商业应用的可用身份验证绕过方案。
对于本地模型来说,这是一个真正有意义的、需要跨越的门槛:Qwen 从一个陌生的商业二进制文件出发,理解其许可架构,恢复出被刻意混淆的加密材料,发现并纠正自己错误的重构,最终将其转化为一个可运行的概念验证。我不必把二进制文件、许可证或其任何分析发送到别人的服务器上就能做到这一点。
有明显的注意事项。这只是一个应用程序、一次运行,而且是在一台我已经拥有合法许可证的机器上。我也不知道这个目标有多大代表性。更难的应用可能完全阻止它,而我不会把一个成功结果外推成一种主张,即Qwen能突然对你摆在它面前的任何东西进行逆向工程。
我从这件事中得到的结论是,这些模型确实有能力,即使这种能力仍然不均衡。有些困难目标可能出奇地快就被攻克,而另一些目标,无论出于什么原因,似乎都无法逾越。
那么,有些东西已经变了,而我认为这主要是我们的一种假设变了:这类能力必须存在于何处。我使用的模型可以在消费级显卡上运行,而一旦它被装到一台机器上,只要用户想让它留在那里,它就会一直留在那里。你不需要使用云API,没有使用限制,也没有远程服务在监视二进制文件、提示词或模型生成的内容。如果你正在分析专有软件、机密代码,或者你特别不希望离开隔离机器的恶意软件,那就太棒了。
但这也是把双刃剑。本地运行的模型最终把关于它应该被用于什么目的的决定权,留给了坐在键盘前的人。在我的桌上,用我拥有的软件,这很有用。换一个人坐在键盘前,那些让本地模型如此有吸引力的同样特性,就突然成了威胁模型的一部分。这不是反对本地模型的论据,但这是一个真正令我震惊、我未曾预料到的结果。
这类能力,一台机器就能装得下
而且不用任何人给你开权限
Qwen 3.8 27B 比这个绕过方案本身更重要。它证明了本地模型正在快速进步,即使它搞不定我下一个扔给它的二进制文件,也不会改变这里已经发生的事。它不会是唯一一个在这个体量上如此能干的模型,即便它可能在一段时间内保持领先。一个小到能在消费级显卡上跑的模型,花了半个小时就把一个商业应用的认证系统拆了个底朝天,并做出一个能用的绕过方案。全程都在本地完成。
需要说明的是,我不会说出这个应用的名字,因为它是人们付费使用的真实产品,公布它的名字对这里没有任何帮助。无论如何,有趣的部分不在于它是哪个应用,而在于一个我以前会觉得得靠前沿模型才能做的任务,现在却能交给我旁边这台机器上随便就能用的模型来做。
到这会儿,我已经不在乎跑分了。这可比跑分多涨几分意义大得多。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.