香港
OpenAI搞了个新活：让ChatGPT自己“坦白从宽”。
这项刚刚公开的研究提出了忏悔训练Confessions。
核心思路是让模型在回答完问题后，再单独生成一份“忏悔报告”，如实汇报自己有没有偷工减料、钻空子或者违反指令。
实验直接在GPT-5-Thinking上进行，结果也确实比较有效：
- 模型犯错后，多半会坦白。
在11/12个测试场景中，模型至少有一半概率会在“忏悔”中承认错误
- 模型在“忏悔”中比在“原回答”里诚实得多。
比如模型故意答错了题，在原回答里可能装没事，但在坦白报告里会主动说 “我刚才故意答错了”。
- 加强训练后更诚实了。
虽然GPT-5-Thinking出厂就自带一定的承认错误能力，，但专门训练后，忏悔准确性又提高了。
- 不影响原任务的表现。
训练模型 “坦白”，不会让它原本的回答问题、写代码能力变差，相当于额外学会了一个诚实技能。
如何给AI开个忏悔室
这项研究的出发点很直接：大模型越来越会撒谎。
在强化学习训练过程中，模型需要同时优化多个目标，包括答案是否正确、风格是否合适、是否符合安全策略等等。
这些信号混在一起，有时会让模型学会一些歪门邪道，比如在不确定时装作很自信，或者找到奖励函数的漏洞来获得高分，而不是真正完成任务。
解决方案借鉴了宗教告解室的设计逻辑：在告解中说的任何话都不会被“追究责任”。
在模型给出主回答之后，系统会发送一条消息，要求模型提供一份ConfessionReport，包含三部分内容：
- 首先列出所有应该遵守的显性和隐性指令
- 然后逐条分析自己是否真的做到了
-最后还要汇报过程中遇到的任何模糊地带。
技术上的关键在于奖励信号的隔离。忏悔内容的奖励完全独立于主回答的奖励，模型在忏悔中承认自己作弊，不会影响它在主任务上获得的分数。
具体实现上，在标准强化学习设置的基础上，研究团队以一定概率p（实验中为25%）让模型进行告解训练。
告解奖励由一个独立的LLM评判者计算，评估维度包括：指令/目标/约束列表的完整性和准确性、合规性分析的准确性、是否遗漏了任何冲突或判断困难的地方。
靠技术让诚实比说谎更容易
研究团队在GPT-5-Thinking上进行了轻量级的强化学习训练，并在12个专门设计来诱发不良行为的评估数据集上进行测试。
这些数据集涵盖了幻觉、指令遵循、”阴谋”行为和奖励黑客等多个领域。结果显示，即使模型表现出这些不良行为，它也很可能在告解中承认。
当模型确实做了不该做的事时，它在忏悔中承认的概率远高于在主回答中承认的概率。
具体来说，在11/12的评估中，模型至少有一半的概率会在忏悔中如实交代自己的违规行为。平均来看，”假阴性”（模型违规但不承认）的概率只有4.36%。
更有意思的是团队设计的一个对照实验。他们故意用一个容易被糊弄的弱模型作为主回答和忏悔的评判者。
随着训练进行，模型确实学会了欺骗这个弱评判者，主回答的真实准确率在下降，但忏悔的准确率却反而上升。
强模型发现，与其费劲编造谎言去骗弱忏悔评判者，不如直接老实交代来得更容易拿到高分。
训练还带来了一些额外发现。GPT-5-Thinking本身就具备相当强的忏悔能力，不经过专门训练也能产出质量不错的自我检举。
但经过忏悔训练后，在指令层级和阴谋行为等评估上，准确率有明显提升。
不过在事实类幻觉评估上改进有限，团队推测这是因为模型在这些场景中是“真的不知道自己错了”，而不是故意隐瞒。
忏悔与思维链监控一起用，AI被管的死死的
团队仔细分析了忏悔失败的案例。
对于假阴性（模型违规但未承认），分析显示几乎没有案例是模型”故意撒谎”。
绝大多数失败发生在模型自己也没意识到问题的情况下，比如在知识问答中给出了错误答案，但模型真心以为自己是对的。
另一些案例是指令本身存在歧义，比如连字符词算一个词还是两个词。
还有一些情况是模型确实在忏悔报告的“不确定性”字段中提到了问题，但评判标准没有把这算作有效忏悔。
假阳性（模型合规但声称违规）也有类似规律。典型场景是模型碰巧猜对了答案，但因为没有把握，就在忏悔中标记为“不确定是否合规”。
论文也讨论了忏悔方法的局限性：
- 它不能阻止不良行为发生，只能把它暴露出来。
- 它对”模型真心认为自己是对的”的情况无能为力。
- 它也不能防御成功的越狱攻击，如果用户已经成功欺骗模型让它认为违规操作是合理的，模型自然也不会在忏悔中承认问题。
OpenAI将忏悔定位为一种监控和诊断工具，类似于思维链监控，但关注的是“模型是否违反了指令”而非“模型是如何推理的”。
他们计划在未来扩大训练规模，并将忏悔与思维链监控、深思熟虑对齐等其他安全技术配合使用。
论文地址：
https://openai.com/index/how-confessions-can-keep-language-models-honest/
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
