网易首页 > 网易号 > 正文 申请入驻

AAAI 2026 Oral | 给多流数据配「私教+外援」,漂移来了也不慌

0
分享至

本文作者为:En Yu, Jie Lu, Kun Wang, Xiaoyu Yang, Guangquan Zhang。所有作者均来自于悉尼科技大学(UTS)澳大利亚人工智能研究院(AAII)。

在智慧城市、社交媒体、工业物联网等真实开放动态环境中,数据往往以多流(Multistream)形式并发产生。然而,现实世界并非完美的实验室,这些数据流往往存在异构性,且分布变化各不相同,伴随着复杂的异步概念漂移。

如何让模型既能 “专精” 于单一流的特性,又能 “博采众长” 利用流间相关性,同时还能自适应分布变化?

悉尼科技大学(UTS)研究团队提出了一种全新的漂移感知协作辅助混合专家学习框架CAMEL(Collaborative Assistance Mixture of Experts Learning)。

CAMEL 巧妙地将混合专家模型(MoE)引入流式学习,通过 “私有专家” 与 “辅助专家” 的协作机制,以及自动化专家生命周期管理,完美解决了异构多流学习中的关键问题。该工作已被 AAAI 2026 接收为 Oral 论文。

  • 论文标题:Drift-aware Collaborative Assistance Mixture of Experts for Heterogeneous Multistream Learning
  • 论文链接:https://arxiv.org/abs/2508.01598

01 引言

在真实应用场景中,数据通常以连续且无限的数据流形式产生,其生成机制往往呈现显著的非平稳性,即数据的联合概率分布随时间发生不可预测的概念漂移。这一特性与经典机器学习所依赖的独立同分布(I.I.D.)假设存在根本冲突。

然而,现有研究大多聚焦于单一或同构数据流的漂移建模,难以应对真实世界中普遍存在的多源异构数据流情形。以智能城市为例,交通传感器、气象观测、公共交通记录及社交媒体等信息流在时间尺度与演化模式上彼此独立,却潜藏着重要的动态关联。若能在概念漂移过程中有效挖掘并利用这些跨流关系,将显著提升决策的准确性与鲁棒性。

现有的方法往往陷入两难:要么假设所有流是同构的,强行统一处理导致模型失配;要么采用静态模型,一旦某个流发生漂移,重新训练会导致 “灾难性遗忘”,而增量微调又可能因为流之间的不同步演化而引发 “负迁移” 。

为此,作者正式定义了异构多流学习(HML)问题,并提出 CAMEL 框架。这是一种动态的、通过协作辅助的混合专家学习框架,通过模块化设计在 “专精 — 协作 — 适应” 之间取得平衡。

图 1:CAMEL 整体框架。每个流的 MoE 模块利用动态的私有专家库和专用的辅助专家,通过多头注意力进行协作融合。系统遵循 “测试 - 诊断 - 适应” 的循环,通过自主专家调节器动态管理专家生命周期以响应漂移信号。

02 方法论与架构设计

研究团队面向 HML 场景下的三大核心挑战:内在异构性、多流知识融合以及异步概念漂移,设计了一套模块化的漂移感知架构。

挑战一:内在异构性

CAMEL 为每个流配置异构感知的 “独立系统”:

挑战二:多流知识融合

多流数据的核心价值在于流之间的潜在相关性,但盲目融合所有流的信息会导致负迁移。

挑战三:异步概念漂移

面对数据分布的非平稳性,CAMEL 设计了自主专家调优器 ,在专家粒度上实现模型容量的在线伸缩,遵循 “测试 - 诊断 - 适应” 的闭环逻辑:

  • 漂移检测:利用基于最大均值差异(MMD)的漂移检测器监控特征分布变化。
  • 增量式扩展(Add & Freeze): 当检测到漂移且伴随性能显著下降时, 实例化一个新的私有专家学习新概念,并冻结旧专家以规避灾难性遗忘。

03 理论分析与实验验证

实验验证:为了验证 CAMEL 的有效性,研究团队构建了包含 12 个合成流和 4 个真实数据集(涵盖了天气、新闻、信用卡信息等)的 8 大基准场景。

表 1 中的结果表明,CAMEL 在几乎所有场景中实现了最先进的平均准确率,显著超越了单流基线(SRP、AMF、IWE)和多流方法(MCMO、OBAL、BFSRL)。CAMEL 的优越性在异构环境中尤为明显,现有的多流方法由于依赖共享特征或标签空间而失败。相比之下,CAMEL 的流特定模块能够在输入异构下实现稳健的性能。该框架还通过其协作辅助机制有效利用潜在的流间相关性,超越了单流方法。

表 1:各方法在所有基准上的分类准确率(%)。红色代表最优,蓝色代表次优。

04 结语

CAMEL 的提出标志着多流学习从 “静态同构” 向 “动态异构” 迈出了关键一步。 该框架以私有专家保障流内专精,以辅助专家挖掘跨流关联,并通过自动化的专家生命周期管理在漂移下实现持续适应与效率控制,为复杂、动态演化的异构多流场景提供了一种可扩展的解决方案。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新冠二次来袭,不发烧,身上 6 种信号一出,立刻去医院,别硬扛

新冠二次来袭,不发烧,身上 6 种信号一出,立刻去医院,别硬扛

普陀动物世界
2026-07-23 07:56:01
俄罗斯最先进的五代机苏57坠毁莫斯科!

俄罗斯最先进的五代机苏57坠毁莫斯科!

项鹏飞
2026-07-23 20:55:19
士兵伤亡增加、民调下滑,特朗普大举增兵中东意欲何为?

士兵伤亡增加、民调下滑,特朗普大举增兵中东意欲何为?

澎湃新闻
2026-07-23 19:22:27
6月1日起,男、女延长至70周岁!

6月1日起,男、女延长至70周岁!

微法官
2026-07-23 08:08:39
看到郑墨沫第五次被拒入境的消息!我第一反应不是惊讶,而是舒服

看到郑墨沫第五次被拒入境的消息!我第一反应不是惊讶,而是舒服

墨策史
2026-07-23 19:14:57
长沙曾琦医生入职浙大四院,担任专科专家,引发争议!网友:曾医生也算是因祸得福,看中她的“知名度”

长沙曾琦医生入职浙大四院,担任专科专家,引发争议!网友:曾医生也算是因祸得福,看中她的“知名度”

火山詩话
2026-07-22 08:09:06
国际体育诚信机构发预警:美加墨世界杯7场比赛有被操纵嫌疑

国际体育诚信机构发预警:美加墨世界杯7场比赛有被操纵嫌疑

全景体育V
2026-07-23 20:13:54
“瞧峰对瞄人缝”说:赵露思演唱会很有料!

“瞧峰对瞄人缝”说:赵露思演唱会很有料!

情感大头说说
2026-07-24 04:00:15
国产电池巨头,开始集中爆雷!

国产电池巨头,开始集中爆雷!

大佬灼见
2026-07-23 13:25:13
财长蓝佛安今天人民日报署名文章,读了三遍,信息量有点大

财长蓝佛安今天人民日报署名文章,读了三遍,信息量有点大

识局Insight
2026-07-23 13:59:05
金融圈大瓜!网传一证券公司女销售居家线上会议,忘关摄像头,其赤裸上身、刷牙洗漱的私密居家画面,被实时投射至会场大屏

金融圈大瓜!网传一证券公司女销售居家线上会议,忘关摄像头,其赤裸上身、刷牙洗漱的私密居家画面,被实时投射至会场大屏

火山詩话
2026-07-23 06:24:03
热议!滔搏回应暴力打折甩卖耐克库存,造成巨大负面影响

热议!滔搏回应暴力打折甩卖耐克库存,造成巨大负面影响

西昆仑Bruce
2026-07-23 18:23:22
中国外长缺席,日本外相被王毅晾一边,中方早看穿了他的小心思

中国外长缺席,日本外相被王毅晾一边,中方早看穿了他的小心思

健身狂人
2026-07-23 18:35:18
国民党不抗日,南京不战而降?传播此类谣言良知何在?

国民党不抗日,南京不战而降?传播此类谣言良知何在?

涛哥锐评
2026-07-23 07:40:07
打完菲律宾人才发现,中国海警手里拿的这是什么武器呀?

打完菲律宾人才发现,中国海警手里拿的这是什么武器呀?

阿龙聊军事
2026-07-23 10:55:06
历史首次!中国籍数学家同获菲尔兹奖 邱成桐:这是中国数学界几十年夙愿

历史首次!中国籍数学家同获菲尔兹奖 邱成桐:这是中国数学界几十年夙愿

红星新闻
2026-07-23 22:13:23
进入灭亡倒计时?韩国或将成为世界上,首个自然消失的国家

进入灭亡倒计时?韩国或将成为世界上,首个自然消失的国家

麓谷隐士
2026-07-22 07:00:03
甄珍哭着说:谢贤去年就认不得人了,反复问同一个问题,连老朋友都叫不出名字

甄珍哭着说:谢贤去年就认不得人了,反复问同一个问题,连老朋友都叫不出名字

情感大头说说
2026-07-23 17:39:55
辛柏青首次回应与吴越再婚,提起朱媛媛瞬间泪崩,一句话让人破防

辛柏青首次回应与吴越再婚,提起朱媛媛瞬间泪崩,一句话让人破防

小莜读史
2026-07-23 19:32:14
事发上海市区!黄鼠狼频繁出没,专往私家车里钻,发动机盖板被咬出大洞,还啃断线路、放臭屁

事发上海市区!黄鼠狼频繁出没,专往私家车里钻,发动机盖板被咬出大洞,还啃断线路、放臭屁

新民晚报
2026-07-23 11:48:56
2026-07-24 05:36:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13588文章数 142699关注度
往期回顾 全部

科技要闻

中国数学家王虹、邓煜获菲尔兹奖

头条要闻

女副部王峻被处理:大搞权钱交易 泄露工作秘密

头条要闻

女副部王峻被处理:大搞权钱交易 泄露工作秘密

体育要闻

勇士24岁的MVP,也是个勒布朗?

娱乐要闻

梁朝伟汤唯19年后境遇反转

财经要闻

梁文锋当不成赛博圣人

汽车要闻

满配华为乾崑六件套 东风奕派M8限时权益价16.58万起

态度原创

本地
家居
手机
公开课
军事航空

本地新闻

跟着影视去旅行:西游篇

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

强强对决:REDMI K100系列与iQOO Neo新机,均8月见!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

"镐山"之后美再威胁袭伊基础设施 伊朗:将以牙还牙

无障碍浏览 进入关怀版