Brumov-Bylnice

研究发现AI模型的数学推理受令牌限制影响

一篇新的研究论文探讨了令牌上限对AI模型数学推理的影响。研究发现，在4k令牌上限下，不同的停止规则（严格与建议）会导致准确性收益不同，建议式停止有时可以通过将弃权替换为正确答案来提高准确性。基于实际成本的比较显示，在某些情况下，建议式4k可能优于严格8k，但并未确立整体优势。研究还表明，增加候选覆盖率并不总是能保证更高的准确性，因为一个选择器在覆盖率增加的同时准确性却下降了。