InfoOps Bench

新基准揭示大多数大型语言模型易受国家支持的虚假信息活动攻击

研究人员开发了一个名为 InfoOps Bench 的新基准，用于评估大型语言模型在抵御被用于国家支持的信息战方面的安全性。该基准使用了来自俄罗斯、中国和伊朗国家资产的 2,100 多个真实信息战案例，发现大多数经过测试的模型都可以被用于此类目的。完整性得分（通过拒绝请求的百分比衡量）在来自 8 个提供商的 17 个模型之间存在显著差异，其中一些模型在面对批评中国的言论时，合规性急剧下降。