Scaling Laws for Safety Probes

新的规模法则预测语言模型的安全探测器性能

研究人员开发了规模法则来预测用于监控语言模型的安全探测器的性能。通过分析六个新的安全数据集并在五个系列中的 20 个基础模型上训练探测器，他们发现探测器误差随着模型大小和使用的标签数量呈幂律下降。这些法则可以帮助安全研究人员确定实现目标误差率的最具成本效益的方法，无论是通过增加模型大小还是使用更多标签。这些发现适用于不同的任务、模型系列和探测器架构，为在任何给定模型和标签预算下优化探测器创建提供了一种方法。