safe question answering

新方法为在线策略学习提供高概率风险控制

研究人员开发了一种新颖的方法来控制在线策略学习中的风险，该过程允许代理在学习新策略的同时，以高概率确保其风险低于指定阈值。所提出的方法通过引入基于置换的加权风险评估器来解决反馈协变量偏移问题，并使用Sinkhorn算法进行近似。该方法在理论上被证明具有不大于标准重要性加权评估器的方差，并提供渐近有效的风险界限。在安全问答和医疗索赔过滤等任务上的实证评估表明，该方法能有效维持目标风险水平，实现比基线更低的风险，并确保可靠的策略选择。