一篇新的预印本文章详细介绍了 SLORR，这是一种将 LLM 训练开销降低到 1% 以下的方法，同时在不改变架构的情况下提高了模型的可压缩性。另外，2026 年 7 月的研究表明，量化到较低精度的 LLM 即使整体准确性保持不变，也可能表现出不同的行为并正确回答不同的问题。 AI
影响 这些发现可能导致更高效的 LLM 训练和部署，从而降低计算成本并实现更广泛的可访问性。
排序理由 该集群包含两篇预印本文章，讨论了与 LLM 压缩和行为相关的新颖方法和发现。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
SLORR cuts LLM training overhead below 1% A new arXiv preprint called SLORR adds under 1% training overhead in LLM pretraining while making models more compressible, without SVDs or architecture changes https://www. notatechguy.com/slorr-cuts-llm -training-overhead-below-1/ # Not…
Quantized LLMs behave differently despite matching accuracy A July 2026 preprint finds models compressed to lower precision diverge in which questions they get right, even when overall accuracy holds steady — exposing a https://www. notatechguy.com/quantized-llms -behave-differen…