网易首页 > 网易号 > 正文 申请入驻

22岁小伙逆推Mythos,AI大模型圈又炸锅了!

0
分享至

本报讯 近日,人工智能领域传来一则令人瞩目的消息:一位年仅22岁的年轻人将业界关注的"Mythos架构"成功"逆推"并开源,为开源AI社区注入了新的活力。


据悉,这位名叫Kye Gomez的年轻人是Swarms智能体框架的创始人。他所做的将Mythos架构开源为"OpenMythos",整合了公开研究和主流技术推测。这一举动在技术圈内引发了广泛关注。

技术突破在哪里?

此次开源的核心技术是带有混合专家(MoE)路由机制的循环深度Transformer(RDT)。与传统大模型不同,RDT采用了一种更加高效的设计思路——同一组权重最多反复运行16遍,但每次激活的是不同的专家路径。这意味着它可以在不增加参数量的情况下,实现更强的模型表达能力。


在MoE架构设计上,该模型借鉴了DeepSeek的技术思路,采用大量细粒度的路由专家和少量共享专家的组合模式。此外,项目还引入了LTI稳定循环注入技术,有效保证了循环推理过程的稳定性。

效果如何?

从实验数据来看,这一架构展现出了令人惊喜的性能表现。在参数量减半的情况下,770M参数的模型性能可以追平1.3B参数的模型。这证明了其"堆循环"而非"堆参数"的高效推理思路是切实可行的。


除了参数效率的提升,OpenMythos还展现出了系统性的泛化能力和深度外推能力,这对于未来AI模型的发展具有重要意义。

对行业意味着什么?

在AI大模型参数越来越大的背景下,如何提升模型的效率成为行业关注的焦点。OpenMythos的开源为技术社区提供了一种新思路:通过循环迭代和MoE架构设计,可以在控制参数量的同时提升模型能力。


这一开源项目也为研究人员和开发者提供了一个宝贵的参考样本,有助于推动AI架构研究的进一步发展。随着更多技术细节的公开和讨论,相信这一技术路径将得到进一步的验证和完善。

业内人士表示,此类"逆推"开源项目的出现,标志着AI技术社区正在形成一种良性竞争与合作并存的生态,最终受益的将是整个行业以及普通用户。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中方不再伺候了!对荷光刻机优待全部取消,450亿芯片不做了!

中方不再伺候了!对荷光刻机优待全部取消,450亿芯片不做了!

泠泠说史
2026-04-21 21:13:01
外交部:中方反对在霍尔木兹海峡问题上的恶意关联和炒作

外交部:中方反对在霍尔木兹海峡问题上的恶意关联和炒作

新京报
2026-04-21 15:40:19
李亚鹏官宣!嫣然医院告别14年租房,新院区地理位置优越

李亚鹏官宣!嫣然医院告别14年租房,新院区地理位置优越

王楔晓
2026-04-21 04:42:47
“中年返贫三件套”,正在吞掉一代人的存款

“中年返贫三件套”,正在吞掉一代人的存款

十点读书
2026-04-18 18:36:15
中国人在哈萨克斯坦生活实录:饭太多、女人太飒、聊天太上头了!

中国人在哈萨克斯坦生活实录:饭太多、女人太飒、聊天太上头了!

老特有话说
2026-04-19 15:29:16
争议拉满!亚马尔直接表态:姆巴佩维尼修斯,不是世界最佳

争议拉满!亚马尔直接表态:姆巴佩维尼修斯,不是世界最佳

体育闲话说
2026-04-21 21:26:06
国家一级女演员陈丽云被逮捕!

国家一级女演员陈丽云被逮捕!

许三岁
2026-03-28 09:24:30
空军全军覆没?伊朗突亮地下底牌!美以傻眼了,就这样被骗几十亿

空军全军覆没?伊朗突亮地下底牌!美以傻眼了,就这样被骗几十亿

琨玉秋霜
2026-04-21 00:11:13
紧急叫停!医生:服用二甲双胍的人,身体出现6种症状必须停药

紧急叫停!医生:服用二甲双胍的人,身体出现6种症状必须停药

荆医生科普
2026-04-21 15:09:02
以前的旧衣服,如今成了“救命稻草”?提醒大家:别再断舍离了!

以前的旧衣服,如今成了“救命稻草”?提醒大家:别再断舍离了!

小谈食刻美食
2026-04-21 07:45:24
特朗普连发4帖辩解对伊动武,抨击民主党和“假新闻”

特朗普连发4帖辩解对伊动武,抨击民主党和“假新闻”

界面新闻
2026-04-21 08:05:05
用脚洗碗!广州这家餐厅被停业,部门回应:属实,已立案调查

用脚洗碗!广州这家餐厅被停业,部门回应:属实,已立案调查

环球网资讯
2026-04-21 21:52:19
69 岁申军谊脑梗 4 年,走路得拄拐。看着 37 岁女儿还单身

69 岁申军谊脑梗 4 年,走路得拄拐。看着 37 岁女儿还单身

岁月有情1314
2026-04-22 02:08:35
曼联 2600 万抄底!荷兰国脚沦为尤文弃将,红魔赌对了?

曼联 2600 万抄底!荷兰国脚沦为尤文弃将,红魔赌对了?

一隅非生
2026-04-22 06:28:11
你怕了?日舰闯台海48小时后,中国军舰开到家门口!日本网友崩了

你怕了?日舰闯台海48小时后,中国军舰开到家门口!日本网友崩了

史行途
2026-04-20 22:12:22
王近山不经请示干掉日本战地观战团,毛主席:早就听说有个王疯子

王近山不经请示干掉日本战地观战团,毛主席:早就听说有个王疯子

鹤羽说个事
2026-04-20 22:56:36
可怕的14岁,恐怖的17岁!心理专家提醒:父母最大的卑微,就是孩子到了青春期

可怕的14岁,恐怖的17岁!心理专家提醒:父母最大的卑微,就是孩子到了青春期

励职派
2026-04-21 20:57:53
美方敦促中国停止向俄罗斯提供军民两用物项等,中方驳斥:长期向战场提供武器、试图延长战争的是美国不是中国,再次敦促美方停止甩锅推责

美方敦促中国停止向俄罗斯提供军民两用物项等,中方驳斥:长期向战场提供武器、试图延长战争的是美国不是中国,再次敦促美方停止甩锅推责

极目新闻
2026-04-21 08:35:27
一场119-114的大逆转,让掘金感到后悔!马刺机会来了,雷霆慌了

一场119-114的大逆转,让掘金感到后悔!马刺机会来了,雷霆慌了

毒舌NBA
2026-04-21 14:47:05
俄罗斯梁赞州向各单位下达征兵命令,翻译成中文很亲切

俄罗斯梁赞州向各单位下达征兵命令,翻译成中文很亲切

李未熟擒话2
2026-04-20 10:47:19
2026-04-22 07:24:49
中科智媒
中科智媒
聚焦新闻前沿,每日热点速递
820文章数 11800关注度
往期回顾 全部

科技要闻

创造4万亿帝国、访华20次,库克留下了什么

头条要闻

三国取消飞航许可 赖清德无法窜访斯威士兰

头条要闻

三国取消飞航许可 赖清德无法窜访斯威士兰

体育要闻

一到NBA季后赛,四届DPOY就成了主角

娱乐要闻

宋承炫晒宝宝B超照,宣布老婆怀孕

财经要闻

现实是最大的荒诞:千亿平台的冲突始末

汽车要闻

全新坦克700正式上市 售价42.8万-50.8万元

态度原创

手机
时尚
旅游
亲子
家居

手机要闻

2999元杀疯了!卢伟冰回应REDMI K90 Max定价:亏损

顶流复工,已判若两人

旅游要闻

京城今春“滨水+”玩法迭代

亲子要闻

才六天的马宝宝,发这个视频没有别的意思,只是想骗你们生女儿而已

家居要闻

诗意光影 窥见自然之境

无障碍浏览 进入关怀版