研究人员开发了一个名为 M extsuperscript{3}Att 的新知识投毒框架，用于医疗多模态检索增强生成（RAG）系统。该框架允许攻击者将错误信息注入文本数据，并使用配对的视觉数据作为触发器来操纵检索，而无需预先了解用户查询。该方法旨在通过引入逃避模型自我纠正的微妙错误来降低诊断准确性，尽管不正确但仍具有临床可信度。 AI
影响 新的攻击向量凸显了医疗AI的漏洞，可能影响诊断准确性和系统可靠性。
排序理由 详细介绍AI系统新型攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
