PulseAugur
中
实时 10:15:16
中文(ZH) 字节发现 DeepSeek 的周期性弱点,我们实测了 V4.1,结果不太一样

DeepSeek模型在上下文检索中表现出周期性弱点,新版本有所改进

字节跳动研究人员发现DeepSeek旧模型存在周期性弱点,模型答案会根据信息在上下文窗口中的位置在正确和错误之间振荡。这种被称为“相位敏感性”的现象,与DeepSeek在CSA和HCA注意力机制中的基于块的KV压缩机制有关。虽然DeepSeek-V4.1-Flash等新版本在缓解此问题方面有了显著改进,不同“相位”下的准确率差距减小,但底层的压缩架构仍然存在。需要进一步研究以了解这种敏感性对AI代理等复杂任务的实际影响。 AI

影响 强调了压缩上下文模型中潜在的检索弱点,敦促关注相位敏感性和AI代理的最坏情况性能。

排序理由 该条目详细介绍了关于特定AI模型及其底层架构弱点的研究发现,以及实验验证和与新版本的比较。[lever_c_demoted from research: ic=1 ai=1.0]

在 雷峰网 (Leiphone) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

DeepSeek模型在上下文检索中表现出周期性弱点,新版本有所改进

本文如何被排名

Signal score
8 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该条目详细介绍了关于特定AI模型及其底层架构弱点的研究发现,以及实验验证和与新版本的比较。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
model release, other
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. 雷峰网 (Leiphone) TIER_1 中文(ZH) ·

    ByteDance Discovers DeepSeek's Periodic Weaknesses, We Tested V4.1 and the Results Were Different

    <section style="text-align: center; margin: 0px 16px; line-height: 1.75em; display: block;"><img class="rich_pages wxw-img" src="https://static.leiphone.com/uploads/new/images/20261103/6ae9510b1b24f.jpg?imageMogr2/quality/90" style="width: 100%; display: inline-block; text-align:…