natural language evaluation

新研究将可控用户模拟形式化为因果推断

一篇新发表在arXiv上的研究论文介绍了一种用于评估对话式代理的可控用户模拟的新方法。作者将这种模拟形式化为一个因果推断问题，并指出在事后轨迹标签上进行标准监督微调的方法会引入前瞻性偏差，从而破坏因果一致性。这种偏差可能导致在策略变化下评估指标的方差爆炸，这种现象被称为“可控性崩溃”。为了解决这个问题，该论文提出了一些实用的训练缓解措施，包括先验控制、分步动态控制和直接策略条件学习，这些方法已被经验证明可以消除偏差并保持自然方差。