DSSEs

新方法可自动发现LLM训练数据中意想不到的副作用

研究人员开发了一种自动发现会导致语言模型产生意外副作用的数据集的方法。这些数据集被称为DSSEs，旨在引发特定行为，看起来像正常的训练后数据，并让审计人员感到惊讶。提出的流程使用LLM裁判以及进化、强化学习和潜意识学习方法来生成数千个DSSEs。这些数据集可以跨不同模型家族和大小进行泛化，为研究模型泛化和预测潜在副作用提供了有价值的测试平台。