网易首页 > 网易号 > 正文 申请入驻

DeepSeek为啥时灵时不灵,字节一句话点破:它看信息站哪儿

0
分享至

同一个问题答案忽对忽错根子是相位敏感性普通用户怎么绕开这个坑

最近,知乎热榜上挂着一个让技术圈直呼内行的问题:如何评价字节Seed团队发现DeepSeek性能漂移。点进去是一篇让普通用户直呼内行的技术论文。很多人用DeepSeek都有这种体验,同一个问题,有时答得漂亮,有时答非所问。字节跳动Seed团队说,根子可能不在服务器,而在模型自己记东西的方式。这个问题不只困扰普通用户,也困扰拿它写代码、做助手的开发者,因为出错没有规律,最难防。



Seed团队在预印本平台arXiv提交了论文Periodic Weak Spots,讲一个叫相位敏感性的现象。他们做了个简单实验:让DeepSeek-V4补全一段FP8量化函数代码,正确答案应该是8。代码本身不动,只在前面加一段没用的等号装饰,答案就开始横跳。

填充长度模4余数为0或1时,模型倾向答错成32;余数为2或3时,又答回正确的8。整个过程以4个Token为周期反复。换句话说,模型记不记得住一件事,居然要看这件事在输入里站哪个位置。这在普通人眼里就是:我问题没变,你咋还抽风了。更麻烦的是,这种故障跟问题难度无关,再简单的任务也可能中招。

论文说,问题出在DeepSeek-V4用的分块KV缓存压缩。这项技术为了省内存,把连续Token窗口压成更少的缓存条目,代价是引入了一个新的位置坐标,叫Token的相位。模型对不同相位的信息检索能力有系统性差异,部分注意力头甚至专门盯着某些相位。说白了,压缩省了显存,却让记忆变成了带周期的筛子,某些位置的信息容易漏。

大规模大海捞针测试证实了普遍性。128K长上下文里,DeepSeek-V4-Flash-Base不同位置的检索准确率最大差40.2个百分点,V4-Pro-Base差34.8个。后训练的V4.1-Flash把差距收到6.1个,但周期性还在。一个漂亮的平均分,可能正好掩盖了它在某个位置系统性失灵。其他采用类似分块压缩的长上下文模型,也可能存在同类隐患,只是没被量化出来。



实用经验其实有了。不少用户发现,把提示里最关键的内容放在最前面,模型抓到的概率明显更高;凌晨时段比高峰顺畅,一部分也是相位碰巧落在好区间。字节的建议更硬核:评估这类模型不能只看平均分,得把同一条信息放到不同相位分别测。对做产品的团队,这意味着要在测试集里加位置扰动,否则上线后才爆雷。

对普通人来说,记住两件事就够了:重要信息往前放,一次答不好换个说法再问。你被DeepSeek或者别的模型抽风坑过吗?评论区说说你是怎么把它掰回来的。

【参考来源】

界面新闻《DeepSeek抽风原因找到了,字节Seed团队论文揭示相位敏感性》(2026-10-09);量子位《字节找到了DeepSeek时强时弱的原因》(2026-10-09);腾讯网相关报道(2026-10-10);arXiv论文 Periodic Weak Spots。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
她18岁嫁给毛主席,温柔贤惠,建国后主席特意为她破例一次!

她18岁嫁给毛主席,温柔贤惠,建国后主席特意为她破例一次!

雍亲王府
2026-10-26 10:55:16
美媒表示:004号核航母制造困难,3艘航母已经是极限,难道中方出现技术瓶颈?

美媒表示:004号核航母制造困难,3艘航母已经是极限,难道中方出现技术瓶颈?

绝对军评
2026-10-26 17:02:01
“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

林林先生
2026-09-12 12:25:03
中纪委再打三“虎”!释放明确警示信号,藏的再深照样被揪出来!

中纪委再打三“虎”!释放明确警示信号,藏的再深照样被揪出来!

细说职场
2026-10-27 15:15:52
出门遛狗2岁儿子坠亡,父亲称13万丧葬费已对得起孩子,指责妻子带媒体去墓地是博流量;母亲含泪发声:儿子此前从未独自留在家中

出门遛狗2岁儿子坠亡,父亲称13万丧葬费已对得起孩子,指责妻子带媒体去墓地是博流量;母亲含泪发声:儿子此前从未独自留在家中

都市快报橙柿互动
2026-10-28 02:13:20
77岁的刘伯承在人民大会堂碰碎一只杯子,回家后一声叹息,藏着一位“军神”晚年最深的痛

77岁的刘伯承在人民大会堂碰碎一只杯子,回家后一声叹息,藏着一位“军神”晚年最深的痛

纪史行者
2026-10-28 04:00:03
“辞了总统,丢了总理”

“辞了总统,丢了总理”

中国新闻周刊
2026-10-28 13:12:03
万岁山NPC“胖郎中”宣布离职:4个月把了9000人的脉,拒绝景区涨薪挽留,想当一名好中医,“在这里一辈子也不可能实现”,将考医师资格证

万岁山NPC“胖郎中”宣布离职:4个月把了9000人的脉,拒绝景区涨薪挽留,想当一名好中医,“在这里一辈子也不可能实现”,将考医师资格证

极目新闻
2026-10-26 14:28:19
不到24小时娱圈又传2大噩耗,46岁演员离世,赵明令人意外

不到24小时娱圈又传2大噩耗,46岁演员离世,赵明令人意外

翰飞观事
2026-10-28 11:41:10
蒙古人为什么恨透了中国?四个大实话,听完别不舒服

蒙古人为什么恨透了中国?四个大实话,听完别不舒服

阿器谈史
2026-10-27 01:02:16
上海海港脸都不要了!主场能3-0完胜中超领头羊,也能2-3输越南队

上海海港脸都不要了!主场能3-0完胜中超领头羊,也能2-3输越南队

体育世界
2026-10-27 20:49:52
清华教授柳冠中怒批:满大街无人车送餐机器人,根本不是科技之光,资本正在用机器干掉8400万人的饭碗!

清华教授柳冠中怒批:满大街无人车送餐机器人,根本不是科技之光,资本正在用机器干掉8400万人的饭碗!

扶苏聊历史
2026-10-26 10:31:14
贝克汉姆晒21年前与凯恩夫妇合影:祝贺你们俩

贝克汉姆晒21年前与凯恩夫妇合影:祝贺你们俩

懂球帝
2026-10-28 03:51:21
中国老人存款标准曝光:70岁达到这3个标准,就是家庭的福分

中国老人存款标准曝光:70岁达到这3个标准,就是家庭的福分

爱看剧的阿峰
2026-10-28 07:24:51
“自己长这样,还嫌父母又老又丑?”中学女生放假,看的人生气!

“自己长这样,还嫌父母又老又丑?”中学女生放假,看的人生气!

世界圈
2026-10-14 07:36:13
90岁的钟南山,给天底下所有人打了一个板,就是如果你想要长寿,必须要提早开始进行抗阻运动。

90岁的钟南山,给天底下所有人打了一个板,就是如果你想要长寿,必须要提早开始进行抗阻运动。

背包旅行
2026-10-27 19:27:35
浙江国清寺火了!寺龄1400年,娃娃鱼100岁,高僧106岁堪比年轻人

浙江国清寺火了!寺龄1400年,娃娃鱼100岁,高僧106岁堪比年轻人

大鱼简科
2026-10-27 14:18:01
签下姆巴佩第39天,昂跑遇上一道中国考题

签下姆巴佩第39天,昂跑遇上一道中国考题

第一财经资讯
2026-10-27 15:20:11
150元破解6.4万元FSD 80名特斯拉车主被移送检方

150元破解6.4万元FSD 80名特斯拉车主被移送检方

TechWeb
2026-10-28 09:30:10
金价跌破860元/克,有金店1天卖出十几公斤,手镯1天补3次货都不够;女子上午买结婚“五金”,下午带亲友买金镯

金价跌破860元/克,有金店1天卖出十几公斤,手镯1天补3次货都不够;女子上午买结婚“五金”,下午带亲友买金镯

极目新闻
2026-10-27 14:56:16
2026-10-28 16:39:00
奇葩锅
奇葩锅
做个闲人,自由,惬意
426文章数 3关注度
往期回顾 全部

科技要闻

AI世界开口说话!谷歌新模型Genie 4有多神

头条要闻

4S店销售把上百万购车款转入个人账户 还辩称遭遇电诈

头条要闻

4S店销售把上百万购车款转入个人账户 还辩称遭遇电诈

体育要闻

0胜4负与篮网国王一桌 热火字母哥赌错了?

娱乐要闻

王心凌近况!分手已9年,如今还是单身

财经要闻

iPhone Duo七年等来一场吐槽大会

汽车要闻

电动大掀背+无框车门+激光雷达 一汽-大众ID. AURA L5真能打动年轻家庭

态度原创

健康
手机
家居
公开课
军事航空

查不出猝死风险?可能是项目没做对

手机要闻

华为畅享100 Pro Max手机发布:8800mAh巨鲸电池、至高麒麟8020处理器,1999元起

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗最高领袖最新声明 提到了“结束战争”

无障碍浏览 进入关怀版