实体
Mistral-8B
Mistral-8B
PulseAugur coverage of Mistral-8B — every cluster mentioning Mistral-8B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新数据集通过合成推理轨迹增强多表问答能力
研究人员通过创建合成推理轨迹数据集，开发了一种新的多表问答方法。该数据集使用大型语言模型生成，包含正确和看似正确但错误的推理路径。使用这种对比数据对 Qwen3-14B、Mistral-8B 和 Llama-3.1-8B 等开放权重模型进行微调，与标准的监督微调相比，显著提高了它们的问答性能。
-
HeadQ: 模型可见失真与分数空间校正用于KV缓存量化
研究人员正在开发几种新颖的方法来优化大型语言模型中的键值（KV）缓存，这是长上下文处理的主要瓶颈。这些方法包括训练模型内在生成可压缩表示（KV-CAT）、操纵潜在注意力空间以实现高效引导（Memory Inception）以及采用先进的量化技术，如int4和谱去噪（eOptShrinkQ、HeadQ）。此外，用于多模态模型的WindowQuant和用于分布式KV缓存管理的tierKV等新策略旨在减少延迟和内存使用，其中tierKV甚至…