HY4 语言模型发布了新的 1 位量化技术,与 BF16 相比,准确性损失极小,显示出有希望的结果。该量化最初被错误标记为 Q1,但实际上是 2.38 位,在 MCP Atlas、SWE-Bench、MRCR 和 IFBench 等基准测试中保持了高分。此举旨在通过降低内存需求,使大型语言模型更加易于访问。 AI
影响 通过减少内存占用,能够更有效地部署大型语言模型,可能提高其可访问性。
排序理由 该条目讨论了一种现有语言模型的新量化方法,这是一项技术研究进展。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →