北京
很多人都在问，AI行业是不是已经到了某个转折点。不是那种“AGI马上就要来了”的转折，而是更无聊、更实际的那种——就是真金白银开始用不同方式流动了。这周有三个信号表明，有些事情确实在变化。
先说说一个叫“模型幻觉蹲守”的东西。安全研究人员最近公开了这种攻击手法，回头一看，确实属于那种“怎么就没想到”的类型。
原理其实挺简单的：大语言模型动不动就幻想出一些软件包名称、函数调用和库导入。你让AI编程助手写个脚本，它可能会引入一个根本不存在的软件包——纯粹是自己编出来的。攻击者就提前在PyPI或npm上把这个不存在的包注册下来，里面放上恶意代码。你的CI流水线一拉取，你就中招了。
研究人员用GitHub Copilot和Cursor这些工具做了演示。他们发现，主流大模型幻想出软件包名称的概率并不低，攻击者完全可以通过预先抢注这些名字，制造出一个供应链感染渠道。研究论文把这称作“一种新型的AI供应链攻击”，说实话，这不算夸张。
这种攻击根本不需要侵入模型本身。它利用的是一个行为缺陷——模型没法说“我不知道”——然后把这变成武器。
平心而论，这个问题不好解决。你没法直接告诉一个大模型“别瞎编了”。但这事儿确实意味着，任何依赖AI生成代码的团队，都必须仔细审查代码里的每一个依赖引用。先信再查，只不过这一次，“信”的部分才是最危险的。
接下来说一个几乎没引起足够讨论的基准测试。就在GPT-5.6和Grok 4.5按照惯例掀起媒体狂欢的前一天，Databricks发布了一份测试结果，对那些真正搞工程的团队来说，可能比任何排行榜上的竞速都重要。
他们拿了自家工程师手上的真实代码任务——真正的Pull Request、真实的测试套件、十几种语言累积的上百万行代码——让编程智能体去跑。结果呢？一个叫GLM 5.2的中国开源模型，在任务完成质量上跟Anthropic的Opus 4.8打了个平手，但每个任务只要1.28美元，而Opus是1.94美元。
34%的成本差距，在真实的企业级任务上没有任何可测量的质量差异。
Databricks还发现，他们那个中端模型在任务完成率上达到了81%，每个任务2.09美元。也就是说，最贵的模型甚至不是最划算的中端选项。这里头的实操启示很直白：日常任务压到最便宜但够用的那一档，省下来的前沿能力留给真正需要它的地方。
我一直在说，模型市场的商品化速度比大家想的快。这次测试是目前最好的证据。开源不是“正在追赶”——在某些工作负载上，它已经到位了。采购决策不再盯着哪个模型在排行榜上登顶，而是你自己的数据上，每个完成的任务花了多少钱。
最后，纽约州刚刚用AI扫描了现行全部法规。这件事本身就是一个刻度，标记着“AI开始替代大规模文本处理人工”这个趋势走到哪儿了。三个信号叠在一起，与其说在描述技术突破，不如说在重新划分成本结构：幻觉会带来新的安全账单，开源在倒逼定价，而政府已经开始按下自动化审查的开关。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
