frugal cascades

新方法优化 LLM 评估小组以提高效率和准确性

一篇新的研究论文提出了一种优化大型语言模型（LLM）评估小组选择和部署的方法。该方法将评判小组设计为一个条件化角色分配问题，根据审计集和成本估算不同评判员的目标相对角色。这形成了一个策略，规定何时删除冗余评判员、添加互补评判员、有条件地路由专家，以及在验证收益减少时停止流程。该方法在推理、代码、安全和数学等多个领域进行了测试，证明了其在创建 LLM 评估的可重用和可审计调用计划方面的有效性。