Mirian Silva Rossi

新方法大幅降低AI安全基准测试成本

研究人员开发了一种更有效的方法，利用项目反应理论（IRT）来评估语言模型的安全性。这种心理测量学方法应用于六个常见的安全基准测试，表明IRT比传统的静态方法更能揭示结构性见解并更有效地区分模型。自适应项目选择（为每个模型动态选择相关的测试项目）可以将评估成本降低高达99.9%，同时保持高排名准确性。此外，一种用于选择信息性项目固定子集的实用程序，作为自适应测试的静态替代方案，提供了显著的成本节约。