A Frozen 12B

具有已验证内存的 Frozen 12B 模型超越了前沿模型

一篇新的研究论文提出了一种通过利用冻结模型结合不断增长的已验证解决方案内存来提高语言模型性能的新颖方法。该方法允许以零 token 生成成本，对先前已解决的问题族提供确定性的、位精确的答案。该系统在各种架构和问题类型的 180 个实例上展示了 100% 的准确率，在已验证的任务上超越了前沿模型。此外，该内存充当了大规模工作上下文，超出了 vLLM 和 SGLang 等当前引擎的能力。