网易首页 > 网易号 > 正文 申请入驻

理光基于信息论的大语言模型行为引导方法的论文获AACL 2026录用

0
分享至

近日,理光宣布,一篇基于信息论、用于引导大语言模型(LLM)行为的研究论文,已被第 5届国际计算语言学协会亚太分会暨第15届国际自然语言处理联合会议(AACL 2026)录用并安排口头报告。该会议是自然语言处理领域的国际学术会议,于2026年11月6日至10日在中国举办。

该研究提出了一种方法:在模型推理阶段对内部运算过程进行轻量干预,无需额外训练模型,即可针对不同目标引导大语言模型的行为。该方法依托信息论框架,将引导干预策略的构建转化为一个优化求解问题。论文中呈现的实验表明,该方法能够有效引导大语言模型行为,同时保持自然语言的生成质量。该技术有望降低大语言模型适配各类场景的成本与运维压力,潜在应用场景包括文本生成行为管控、生成式AI安全能力增强等方向。


背景

随着生成式AI的应用日益广泛,对于企业和公共部门组织而言,既要保障 AI 输出内容的质量,又要确保其安全性与可靠性,这一点正变得愈发重要。在公共服务、金融和制造业等领域,业界愈发需要防范不当输出,同时应对各类绕过 AI 安全防护机制的攻击(即常说的越狱攻击 *)。

调整大语言模型行为的传统手段包括提示词工程与模型增量训练,这些方法可能会增加成本并增加运维复杂度。近年来,激活引导技术作为控制模型行为的另一种方法应运而生,该技术无需修改底层模型,可在推理阶段直接影响大语言模型的内部表征。其中的一个关键挑战在于:如何在有效引导模型的同时,保留回复语言的自然度。

为攻克该难题,理光研发了一种方法:借助信息论分析大模型内部特征分布,并将模型引导问题转化为优化问题。该方法可量化模型内部特征分布与目标输出分布之间的差异,从而依托理论依据求解干预参数。与逐一检测并拦截潜在有害输入不同,该方法能够持续引导模型的内部表征朝着更安全的行为方向发展,即便面对精心构造、意图绕过防护的输入,也能降低模型生成不当内容的概率。这有助于提高模型抵御“越狱”攻击的能力。

*越狱攻击:指试图绕过 AI 系统的安全防护或使用限制,生成原本被禁止输出内容的行为。

技术核心要点

1.引导大语言模型行为,同时保障自然语言输出质量

该方法通过分析、调整大语言模型的内部特征,可根据不同需求引导模型行为,并保持自然语言的生成质量。

2.无需额外训练模型

该方案在推理阶段引入轻量化控制向量,影响模型内部运算过程。无需对模型本身追加训练即可调整大模型行为,有望降低为适配各类场景改造模型所带来的成本与运维压力。

3.效果已通过实验验证

实验表明,该方法能够按需引导大语言模型行为,并且保持自然语言输出质量。

在AI安全领域的潜在应用

理光认为该技术有望用于提升生成式 AI 的安全性。该方法通过引导大语言模型的内部表征趋向安全行为,可以对输入输出监控类防护机制形成补充,为生成式 AI 系统增设一层防护。

未来展望

理光将持续评估这项技术,探索其在企业级生成式AI系统中的应用潜力。公司将持续研发,深耕能够提升生成式AI安全性与可靠性的技术,打造适配客户行业及业务需求的AI服务,践行“悦享工作”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
BLG夺冠后,Knight终于敢聊这段"往事"了!都怪ON乱想点子

BLG夺冠后,Knight终于敢聊这段"往事"了!都怪ON乱想点子

姚某人说联盟
2026-11-16 19:33:56
美国要把黄仁勋逼走?中国别急着捡漏,华为们早就硬顶上来了!

美国要把黄仁勋逼走?中国别急着捡漏,华为们早就硬顶上来了!

三农老历
2026-11-16 04:16:47
最尴尬能有多尴尬?网友:朋友和他媳妇脸都青了!

最尴尬能有多尴尬?网友:朋友和他媳妇脸都青了!

另子维爱读史
2026-11-15 22:39:15
CBA现役实力最出色的外援,当属以下五位,拉塞尔排不上

CBA现役实力最出色的外援,当属以下五位,拉塞尔排不上

潇湘烟雨水
2026-11-16 11:39:29
男子想卖掉自家旧冰箱,废品回收的人只给50元;他直接把冰箱拉回家,拆成铜铝铁等金属再卖:共卖了260元,翻了5倍

男子想卖掉自家旧冰箱,废品回收的人只给50元;他直接把冰箱拉回家,拆成铜铝铁等金属再卖:共卖了260元,翻了5倍

芒果都市
2026-11-16 16:33:47
乌克兰被逼换卫星终端!马斯克掐断星链,反倒炸出一个大意外

乌克兰被逼换卫星终端!马斯克掐断星链,反倒炸出一个大意外

老马拉车莫少装
2026-11-16 14:29:44
属兔人稳住!11月16到22日家里要天翻,稳住就赢。

属兔人稳住!11月16到22日家里要天翻,稳住就赢。

刺头体育
2026-11-16 00:51:30
钟南山提醒:想要老了能自理,一定要早点练抗阻运动

钟南山提醒:想要老了能自理,一定要早点练抗阻运动

坠入二次元的海洋
2026-11-13 07:53:02
火箭11胜3负轰147分!阿门26+7+7全能爆发,湖人马刺连胜西部大乱

火箭11胜3负轰147分!阿门26+7+7全能爆发,湖人马刺连胜西部大乱

无意争春
2026-11-16 20:40:53
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
2种油再香也要管住嘴!研究发现:可能增加癌症和死亡风险!

2种油再香也要管住嘴!研究发现:可能增加癌症和死亡风险!

39健康网
2026-11-16 19:31:08
三分100%!阿门汤普森,会是下一个联盟前十?

三分100%!阿门汤普森,会是下一个联盟前十?

篮球实录
2026-11-16 16:13:13
台军老兵曾叮嘱自己的儿子:若两岸开战,一枪干掉让你冲锋的长官

台军老兵曾叮嘱自己的儿子:若两岸开战,一枪干掉让你冲锋的长官

谁将笑到最后
2026-11-15 17:13:16
上海退休教授进敬老院5个月后去世,护工挺着大肚子含泪:这是遗书

上海退休教授进敬老院5个月后去世,护工挺着大肚子含泪:这是遗书

罪案洞察者
2025-08-08 11:40:08
笑不活了!苏州乘客飞机延误办改签,告诉空姐江浙沪几座机场都行,空姐一问目的地,他沉默三十秒才说:苏州

笑不活了!苏州乘客飞机延误办改签,告诉空姐江浙沪几座机场都行,空姐一问目的地,他沉默三十秒才说:苏州

王老师你还好吗
2026-11-06 14:39:40
1983年一碗拉面多少钱?看完饭店价目表才相信,相当于现在多少钱

1983年一碗拉面多少钱?看完饭店价目表才相信,相当于现在多少钱

近史谈
2026-11-16 17:59:30
万元羽绒服跌下神坛,山姆399元羽绒服卖爆!网友:中产不当冤大头

万元羽绒服跌下神坛,山姆399元羽绒服卖爆!网友:中产不当冤大头

品牌观察官
2026-11-14 19:35:51
《伟大的长征》刚完结,观众喊话再拍《伟大的抗战》

《伟大的长征》刚完结,观众喊话再拍《伟大的抗战》

天玑影视说
2026-11-16 20:53:42
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
中超转会传闻:曝国安酝酿“2换2”交易,引新门将+后防希望之星

中超转会传闻:曝国安酝酿“2换2”交易,引新门将+后防希望之星

体坛鉴春秋
2026-11-16 10:59:29
2026-11-16 21:47:00
中关村在线 incentive-icons
中关村在线
中关村在线全球第一科技门户
388602文章数 875233关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

80岁老人结束60多年包办婚姻:像捉鸡仔一样捉在一起

头条要闻

80岁老人结束60多年包办婚姻:像捉鸡仔一样捉在一起

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

标配激光雷达 极狐阿尔法S5上市 限时11.58万起

态度原创

游戏
教育
亲子
数码
公开课

拉瑞安发行总监盛赞《流放之路2》:比《暗黑4》强

教育要闻

下面这道题不用勾股定理,你会解答吗?欢迎来挑战

亲子要闻

直通部委|我国中小学幼儿园将聘任健康副校长 10月一线城市房价环比总体上涨

数码要闻

9.2mm同档最薄小方表!OPPO Watch 5发布:899元起

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版