研究人员开发了 DeepBias，一个旨在彻底探测大型视觉语言模型 (LVLM) 中社会偏见的自适应框架。与静态评估方法不同，DeepBias 采用了一个动态循环，包括一个使用直接偏好优化合成和优化测试数据的 ProposerAgent，以及一个自适应加深测试用例的 DiggerAgent。该框架已被用于创建 DeepBiasBench，一个评估多个 LVLM 共享漏洞的基准，为 LVLM 安全评估建立了一种新的进化方法。 AI
影响 为评估和缓解 LVLM 中的社会偏见建立了一种新的进化范式，可能导致更安全的 AI 部署。
排序理由 该集群包含一篇详细介绍新方法和评估 AI 模型基准的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2607.11228v1 Announce Type: cross Abstract: While Large Vision-Language Models (LVLMs) demonstrate remarkable capabilities, they remain highly susceptible to embedded social biases. Existing bias evaluation protocols predominantly rely on static datasets, which provide only…
While Large Vision-Language Models (LVLMs) demonstrate remarkable capabilities, they remain highly susceptible to embedded social biases. Existing bias evaluation protocols predominantly rely on static datasets, which provide only a superficial assessment, as their fixed test cas…