PulseAugur
中
实时 11:43:35
English(EN) Evaluating calibrated refusal and safe usefulness in dual-use biology settings

新基准评估AI拒绝危险生物学任务的能力

作者 PulseAugur 编辑部 · [1 个来源] ·

开发了一个名为BioSecBench-Refusal的新基准，用于评估AI代理在生物学研究环境中识别风险和拒绝的能力。该基准包括合法的研究任务和旨在隐藏生物安全危害的虚构场景。在各种模型配置中，拒绝率差异很大，一些模型错误地拒绝了合法的任务，同时未能识别隐藏的威胁。研究表明，虽然API过滤器可以触发拒绝，但具有更强推理能力的AI模型在识别现实世界风险方面显示出潜力。 AI

影响 该基准可以帮助开发人员校准AI模型，以便更好地区分合法科学探究和在敏感生物学研究中的潜在滥用。

排序理由 该集群描述了一个用于在特定领域评估AI安全性的新基准，该领域属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新基准评估AI拒绝危险生物学任务的能力

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Edwin H. Wintermute, Harmon Bhasin, Christina M. Agapakis, Dianzhuo Wang, Evan Seeyave, Arjun Banerjee, Daniel Fulop, Matthew C. Watson, Adam J. Meyer, Sandrine Boissel, Jens H. Kuhn, Rishi Jain, Noah D. Taylor, Helena Shomar, Patrick M. Boyle, Kenny Wor… ·

    在双重用途生物学场景中评估校准拒绝和安全效用

    arXiv:2607.05462v1 Announce Type: cross Abstract: As AI agents are incorporated into life science workflows, the capabilities that speed discovery might also enable misuse. We present BioSecBench-Refusal, a benchmark for risk identification and refusal behavior for biological res…

相关话题