ARMs-Bench

新的ARMs代理在Claude 4 Sonnet上实现了超过90%的攻击成功率

研究人员开发了ARMs，一个自适应红队代理，旨在系统地评估视觉语言模型（VLMs）的安全漏洞。ARMs采用多样化的多步策略来诱导有害输出，实现了最先进的攻击成功率，在Claude 4 Sonnet上尤其超过了90%。该代理已被用于构建ARMs-Bench，一个包含超过30,000个红队测试实例的大型数据集，该数据集在用于安全微调时显著提高了VLM的鲁棒性。