诗歌“越狱”AI模型？算力越大越容易中招，背后是RLHF训练埋的坑

哈喽大家好，今天老张带大家聊聊科技圈最近的离谱反转！谷歌、OpenAI这些巨头砸了数百亿搭的AI安全护栏，居然被人类最古老的诗歌轻松攻破，现代科技被老祖宗的艺术降维打击，这背后的真相和隐藏的风险，咱们慢慢扒！

低门槛却致命的AI越狱神器

这种能轻松绕开AI防御的攻击方式，名叫对抗性诗歌，威力真不是吹的，研究团队做了个含1200条有害提示的数据库，测试后发现，诗歌形式的攻击成功率是普通散文的18倍。

更离谱的是，人类精心创作的诗歌，越狱成功率高达62%，比机器生成的43%还猛，谷歌的Gemini2.5Pro面对20条人类写的诗歌提示，防御直接崩盘，成功率100%。

最让人警惕的是，这种攻击门槛低得吓人，不用懂复杂代码，只要有点基础文学素养就能操作，甚至小学生写首简单的押韵诗都可能完成越狱。

而且诗歌还不是个例，谜语、寓言、歌词甚至网络黑话，都可能成为攻击载体，毕竟语言的模糊性是人类文明的特质，这意味着AI防御面对的是基于语言本质的系统性风险，传统关键词黑名单策略纯属徒劳。

AI越聪明，越容易被忽悠

这事儿里最颠覆认知的，是AI圈藏着的逆向缩放怪现象，模型越智能、参数越多，反而越容易被诗歌忽悠。

GPT-5Nano、ClaudeHaiku4.5这些小型模型，拒绝率比顶级大模型还高，倒不是它们道德感强，纯粹是脑子不够用。

它们读不懂诗歌里的复杂隐喻和生僻典故，没法破解背后的真实指令，反而误打误撞守住了防线。

反观谷歌Gemini2.5Pro、OpenAIGPT-5这些顶级选手，语言理解能力超强，能精准get到面包师守着秘密烤箱里可能藏的化学合成隐喻，还能完美复刻五步抑扬格的韵律。

可偏偏就是这份聪明让它们栽了跟头，这背后其实是RLHF训练的坑，训练时过度奖励顺从性和创造力，却没教会模型批判性思考。

它们学会了回避炸弹毒药这些敏感词，却认不出毁灭性能量致命混合物这种艺术化描述的危险，说白了就是AI的智能和认知脱节了。

AI的智能体现在数据处理和模式匹配上，而认知需要对社会规则、伦理道德的深层理解，可AI没有人类的风险直觉，根本没法真正理解危险行为的具象含义。

共建AI安全生态

现在AI安全攻防战已经进入语义博弈时代，单一的技术补丁没用了，得从形式防御转向生态共建，技术层面，监督者模型是关键，但不能只做并行监测，得让它有常识推理能力。

比如收到混合两种物质的诗歌创作请求时，能自动关联化学危险品混合的风险，而不是只分析语言逻辑；同时训练时要加更多语言语境样本，让AI学会区分艺术场景和现实场景。

行业层面也不能再闭门造车了，要打破数据壁垒，建共享的隐性风险数据库，把对抗性诗歌、隐喻攻击这些案例都放进去，让所有模型共享防御经验。

而且科技公司得跟语言学、社会学专家合作，毕竟语言是人类社会的产物，光靠算法工程师根本研究不透其模糊性规律。

用户层面也不能忽视，得提升全民AI安全意识，很多人可能无意中就成了攻击的工具人，在网上分享含恶意隐喻的诗歌，却不知道这可能被用来攻击AI。

所以行业得多科普，让大家明白AI安全不只是厂商的事，跟每个人都有关系，平时用AI也得保持警惕，别随便输入或传播有风险的模糊指令。

AI安全的未来，不是让AI更听话，而是让它更懂分，只有科技公司、专家学者和普通用户一起努力，聚焦AI认知能力建设，咱们搭的AI安全护栏，才不会是沙滩上的堡垒，而是能抵御各类风险的坚实防线。