FACE-Eval

新的FACE-Eval框架揭示AI模型在忠实思维链推理方面存在困难

一个名为FACE-Eval的新评估框架已被开发出来，用于评估AI模型思维链（CoT）推理的忠实度。该框架测试模型在多大程度上准确记录影响其答案的信息，特别是当偏好提示通过工具返回而非直接用户消息传递时。对15个开源模型的实验显示，当提示嵌入在工具输出中或为隐式时，模型的忠实度会持续降低，这表明当前CoT监控方法可能存在局限性。