Bullet tasks

新型攻击利用演示来破坏安全强化学习机器人控制器

研究人员开发了一种新的方法来攻击机器人系统中使用的黑盒安全强化学习（Safe RL）控制器。这种演示引导观察攻击可以通过恢复代理策略并从演示转换中学习动态来识别安全违规，而无需访问受害者网络的参数或梯度。在各种机器人任务和预算条件下，该攻击被证明比现有方法更有效，突显了用于安全学习的演示也可以作为攻击面。虽然状态对抗正则化在防御方面显示出希望，但其他测试方法提供的保护不一致。