Talk预告 | 北京大学王恺乐&陈文琦：AI的“欺骗性对齐”：风险、根源与应对

本期为TechBeat人工智能社区第696期线上Talk。

北京时间7月2日(周三)20:00，北京大学本科生王恺乐 & 电子科技大学本科生陈文琦的Talk将准时在TechBeat人工智能社区开播！

他们与大家分享的主题是:“AI的“欺骗性对齐”：风险、根源与应对，届时他们将深入剖析“欺骗性对齐”的成因与表现，从压缩理论视角揭示其内在“弹性”根源，并提出基于“自我监控”的CoT Monitor+框架作为解决方案。部分工作已入选ACL 2025 Main。

Talk·信息

主题：AI的“欺骗性对齐”：风险、根源与应对

嘉宾：北京大学 · 本科生 - 王恺乐 & 电子科技大学 · 本科生 - 陈文琦

时间：北京时间7月2日(周三)20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

Talk·介绍

“欺骗性对齐”是AI安全领域的重大隐患：模型训练时看似对齐，部署后却可能“伪装”并追求危险的隐秘目标。本次分享将深入剖析其成因与表现，从压缩理论视角揭示其内在“弹性”根源，并提出基于“自我监控”的CoT Monitor+框架作为解决方案，以应对这一棘手挑战。

Talk大纲

1. 问题剖析： 什么是欺骗性对齐？介绍其定义、风险，并展示“逆向扩展法则”、“自我复制”、“策略性欺骗”与“对齐伪装”等令人警惕的具体现象。

2. 理论溯源： 为何模型会“欺骗”？从物理胡克定律类比和信息压缩理论出发，建立语言模型“弹性”理论，解释其抗拒对齐、倾向回弹的内在机制。

3. 解决方案： 针对“难发现、难对齐、难缓解”三大困境，提出CoT Monitor+框架。包括用于系统性评估的DeceptionBench基准，以及引入“自我监控”信号和约束优化的强化学习新范式，有效缓解模型欺骗倾向。

4. 总结展望： 从“模型弹性”视角出发，探讨实现真正“深入对齐”而非“表面对齐”的未来研究方向。

Talk·预习资料

论文链接（该工作已入选ACL 2025 Main）： https://arxiv.org/abs/2406.06144

论文链接： https://arxiv.org/abs/2505.18807

Talk·提问交流

在Talk界面下的【交流区】参与互动！留下你的打call和问题，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

Talk·嘉宾介绍

王恺乐‍‍‍‍‍‍‍‍‍‍‍

北京大学 · 本科生‍‍‍

王恺乐，目前就读于北京大学元培学院。研究方向聚焦于AI安全对齐与强化学习。曾在机器学习顶级会议上发表过论文。

个人主页: https://www.techbeat.net/grzytrkj?id=45135 ‍‍‍‍

陈文琦‍‍‍‍‍‍‍‍‍‍‍

电子科技大学 · 本科生‍‍‍

陈文琦，目前在北京大学人工智能研究院实习，本科就读于电子科技大学。研究方向聚焦于强化学习和AI可控对齐，并曾在机器学习顶级会议上发表过论文。

个人主页: https://www.techbeat.net/grzytrkj?id=45134

-The End-

如果你也想成为讲者

自荐 / 推荐

单人Talk | 团队专场 | 录播or直播 | 闭门交流

多种方式任你选择！

推荐讲者成功也有奖励哦~

关于TechBeat人工智能社区

TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>

预约本期Talk