研究人员开发了一种检测AI生成视觉故事中仇恨内容的新方法，这类故事可以由Gemini和GPT Image等先进的文本到图像模型轻松生成。该研究引入了HatefulStoryPrompts，一个包含55个仇恨故事的330个多轮配置的数据集，并评估了五个领先模型，发现它们完成了超过80%的这些故事。现有的审核系统难以处理群体层面的仇恨含义，召回率很低。该研究提出了新的防御措施，包括一个交互感知监控器和生成后分析，以应对视觉叙事中状态化推理不断演变的挑战。 AI
影响 强调了随着AI从单张图像转向连贯的视觉叙事，对先进安全措施的需求。
排序理由 学术论文，详细介绍了AI安全的新数据集和评估方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
