实体
DeepSeek-R1-0528-Qwen3-8B
DeepSeek-R1-0528-Qwen3-8B
PulseAugur coverage of DeepSeek-R1-0528-Qwen3-8B — every cluster mentioning DeepSeek-R1-0528-Qwen3-8B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新方法通过行为反事实解读大语言模型推理 · 跟踪到2个来源
研究人员开发了一种名为行为反事实的新方法,以更好地理解大型语言模型(LLM)的推理过程。该技术分析了提示中的干预如何影响模型的下一个词元分布,从而能够更系统地比较模型推理。通过训练一个模块来编辑模型的残差流,该方法有效地恢复了反事实行为,并识别了影响其推理的模型计算中的关键位置。一项使用 Gemma 4 E4B it 和 DeepSeek-R1-0528-Qwen3-8B 的案例研究表明,即使在未被明确承认的情况下,建议也会影响模型推…
-
新的自我蒸馏方法在没有外部教师的情况下提高了LLM性能 · 跟踪4个来源
研究人员推出了一些新颖的语言模型自我蒸馏技术,旨在提高性能,而无需外部教师或真实标签。激活条件自我蒸馏(ACSD)从模型激活中提取引导向量来指导学习,在数学和编码基准测试中取得了高精度。另一种方法,知识到提示(K2P),从教师解决方案中合成和优化可重用的指令,用于无标签蒸馏。此外,InFlow将该过程建模为信息流,根据信念转移检索和选择信息源,以增强策略内自我蒸馏。