SliceShift

新框架衡量并缓解LLM推荐系统中的偏见

研究人员开发了PromptShift，一个旨在衡量和减少LLM推荐系统中偏见的新颖框架。该框架量化了提示中的身份线索如何导致推荐偏向群体模式，即使在用户行为未改变的情况下也是如此。PromptShift引入了Drift和SliceShift等指标来评估这种偏见，并提供了一种自适应重新排序策略来缓解它。实验表明，PromptShift在不要求模型重新训练的情况下，能有效减少身份线索偏好漂移，同时保持或提高推荐质量。