Decision-Reflective Induction

新的TrojanWorld框架通过想象力引导后门化强化学习代理

研究人员开发了一个名为TrojanWorld的新框架，旨在后门化强化学习中使用的世界模型代理。该框架通过引导代理的内部模拟或“想象力”来利用这些代理的预测核心，使其执行攻击者指定的行为。TrojanWorld使用物理对象作为触发器，通过代理的观察管道激活攻击，而无需直接的数字操作。实验表明，TrojanWorld可以在保持接近原始性能的同时诱导恶意行为，甚至可以在触发器移除后使代理陷入这些诱导的行为中。