网易首页 > 网易号 > 正文 申请入驻

独家 | 跳出 Transformer 主流范式,复旦大学陈曦创业成立「深度汇贤」

0
分享至


Transformer 之外的架构新探索。

作者丨张贤

编辑丨岑峰

AI 科技评论独家获悉,复旦大学人工智能创新与产业研究院教授、博导陈曦近期已启动创业,新公司名为“深度汇贤”,公司的核心技术主线聚焦“Diffusion+RNN”的融合架构。(本文作者长期关注具身赛道上下游,欢迎添加微信交流:zhangxian2021)

公开信息显示,陈曦曾任职剑桥卡文迪许实验室、英国巴斯大学。2024 年,陈曦加入复旦 AI³ 院,担任人工智能创新与产业研究院教授。

研究方向上,陈曦致力于在贝叶斯推断框架下研究领域知识驱动的概率建模、统计机器学习与大模型/多智能体方法,探索下一代小参数量基础模型架构、智能体自进化方法、多智能体隐空间协作机制等。构建面向复杂科学问题的可靠基础模型与智能体架构,并服务AI4S、科学发现、生命科学、临床医学和工程科学等交叉学科场景。本次创业,也是其从学术研究走向工程化落地的重要一步。

当前,大模型赛道在持续探索 Transformer 之外的备选架构,“Diffusion+RNN”属于小众、偏底层的融合技术路线。

区别于 Transformer 的全局注意力范式,Diffusion RNN 是一条融合扩散模型与循环状态记忆的底层序列建模路线。扩散模型并非自回归逐 Token 生成,而是从噪声出发经由多轮去噪迭代完成生成,可控性强、概率建模能力突出,存在显存开销高、推理速度偏慢的短板。而RNN 循环结构依靠持续更新的隐状态承载记忆,适配长序列与流式输入,缺点是可控生成能力不足。

“Diffusion+RNN”将两者结合,以循环结构负责长程记忆与线性递推,借助扩散过程实现概率采样与迭代修正,目标是在固定显存的约束条件下兼顾长上下文能力与可控生成优势。

据了解,深度汇贤项目还处于早期阶段,已经有部分投资机构正在接触并参与投资。

未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!

公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
何沁教授逝世

何沁教授逝世

极目新闻
2026-11-21 16:50:35
特朗普在回国的专机上,有件事让他很着急,事关中美的“大买卖”

特朗普在回国的专机上,有件事让他很着急,事关中美的“大买卖”

麓谷隐士
2026-11-21 15:01:54
甲亢哥52小时不睡通关GTA6 却触发最差结局崩溃落泪!

甲亢哥52小时不睡通关GTA6 却触发最差结局崩溃落泪!

游民星空
2026-11-21 11:07:36
哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

哈登51+6+6超越奥尼尔!骑士拒步行者24分逆转 米切尔20分

醉卧浮生
2026-11-21 10:57:09
零跑汽车回应“A10后备厢装几箱啤酒就被压露底”:系物品超过设计承重上限所致,已获得用户理解,后续将优化用车指引

零跑汽车回应“A10后备厢装几箱啤酒就被压露底”:系物品超过设计承重上限所致,已获得用户理解,后续将优化用车指引

台州交通广播
2026-11-21 01:43:49
高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

高市早苗飞离中国,中方铺红毯、礼仗队送别,日本认为“中方失礼”,根本站不住脚

蓝星杂谈
2026-11-20 13:04:01
“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

“A10后备厢装几箱啤酒就被压露底”,零跑汽车回应:系物品超过设计承重上限所致,已与用户沟通并获得理解,后续将优化用车指引

政知新媒体
2026-11-21 09:48:46
浮嶋敏回应0-5:日本20年前也经历过!盼中国足球能认清差距+反思

浮嶋敏回应0-5:日本20年前也经历过!盼中国足球能认清差距+反思

我爱英超
2026-11-21 17:11:33
“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

“长不大的巨婴,及时分手”!四川女生因糖葫芦被男友吃了一个暴怒,扔掉肯德基躺人行道打滚,男生满脸通红苦劝

王老师你还好吗
2026-11-21 13:25:53
别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

命运自认幽默
2026-11-21 07:52:54
说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

扶苏聊历史
2026-11-20 15:37:24
姆巴佩风波后,时间给出了答案——皇马赢了,皇马5家中国赞助商也赌赢了

姆巴佩风波后,时间给出了答案——皇马赢了,皇马5家中国赞助商也赌赢了

开成运动会
2026-11-21 11:24:38
美媒发现:英伟达失去中国市场之后,最危险的对手正在中国长出来

美媒发现:英伟达失去中国市场之后,最危险的对手正在中国长出来

麓谷隐士
2026-11-21 07:19:12
外媒:印度东北部发生假酒致人中毒事件,已致至少11人死亡、180余人入院

外媒:印度东北部发生假酒致人中毒事件,已致至少11人死亡、180余人入院

环球网资讯
2026-11-21 16:27:23
七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

珠三角港
2026-11-20 10:44:17
参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

大风新闻
2026-11-21 17:03:03
普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

小徐讲八卦
2026-11-21 10:28:27
油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

娱乐圈的笔娱君
2026-11-21 05:28:53
江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

指尖新闻沈阳晚报
2026-11-21 08:51:23
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
2026-11-21 18:03:00
AI科技评论 incentive-icons
AI科技评论
点评学术,服务AI
7836文章数 20798关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

中国男子在澳遇袭被砍断两指 25万元医药费被朋友卷走

头条要闻

中国男子在澳遇袭被砍断两指 25万元医药费被朋友卷走

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
游戏
艺术
教育
军事航空

手机要闻

PureView品牌或将重返市场 HMD新机曝光主打影像旗舰路线

《GTA6》女主徒手掀翻汽车!力量太夸张遭吐槽

艺术要闻

赵孟頫将这件书法写了整整500遍,被誉为行书“教科书”,水平已接近王羲之!

教育要闻

小学数学填空,找准关系,轻松填出两个数字

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版