BioSecBench-Refusal

新基准评估AI拒绝危险生物学任务的能力

开发了一个名为BioSecBench-Refusal的新基准，用于评估AI代理在生物学研究环境中识别风险和拒绝的能力。该基准包括合法的研究任务和旨在隐藏生物安全危害的虚构场景。在各种模型配置中，拒绝率差异很大，一些模型错误地拒绝了合法的任务，同时未能识别隐藏的威胁。研究表明，虽然API过滤器可以触发拒绝，但具有更强推理能力的AI模型在识别现实世界风险方面显示出潜力。