ProposerAgent

新的 DeepBias 框架自适应探测 LVLM 中的社会偏见

研究人员开发了 DeepBias，一个旨在彻底探测大型视觉语言模型 (LVLM) 中社会偏见的自适应框架。与静态评估方法不同，DeepBias 采用了一个动态循环，包括一个使用直接偏好优化合成和优化测试数据的 ProposerAgent，以及一个自适应加深测试用例的 DiggerAgent。该框架已被用于创建 DeepBiasBench，一个评估多个 LVLM 共享漏洞的基准，为 LVLM 安全评估建立了一种新的进化方法。