claude-latest

LLM 裁判显示出不一致性和偏见，需要新的评估方法

用作自动化评估系统中裁判的大型语言模型会表现出不一致性，导致结果不可靠。采样温度、模型版本漂移、提示模糊和决胜机制等因素都会导致这种可变性。为缓解这些问题，开发人员可以实施诸如将温度设置为零、固定特定模型版本和提示版本、对多次运行的分数取平均值以及将分数量化为更粗糙的网格等策略。此外，一个重大挑战是立场偏见，即 LLM 裁判倾向于偏爱第一个呈现的答案，这会扭曲评估指标。解决此问题需要以两种呈现顺序运行成对比较，以衡量分歧并确定偏见的程度。