跳到正文
原文
雷峰网·· 5 天前AI 评分70

字节论文揭示 DeepSeek 分块 KV Cache 压缩的周期性相位盲区

字节发现 DeepSeek 隐藏 Bug,加点空格,模型翻车

AI 导读

字节团队论文发现,DeepSeek V4 系列因分块 KV Cache 压缩产生相位敏感性,同一问题仅多加几个空格,答案质量就天差地别。在 128K Token 的大海捞针测试中,DeepSeek-V4-Flash-Base 不同位置的准确率最大差距达 40.2%;DeepSeek-V4.1-Flash 把压缩步长砍半后差距降至 6.1%,但仍未消除。

来源:雷峰网 · leiphone.com