Yilei Chen

新研究推动AI对齐和模仿学习中的样本效率

研究人员开发了新的方法来改进人工智能代理与人类价值观的对齐。一种方法是反馈操纵正则化（FMR），它利用评估反馈作为模仿学习中的纠正信号来增强策略对齐，在适应性安全体育馆环境中显著减少了不对齐现象。另一项研究为离策略对抗模仿学习（AIL）算法提供了理论保证，表明重用近期策略的样本可以在不影响收敛的情况下提高样本效率，为更具数据效率的AIL提供了理论基础。