Cross-Cues-aware Chain of Thought

DocShield框架通过基于证据的推理增强AI文档安全性

研究人员开发了DocShield，一个旨在通过解决复杂的以文本为中心的图像伪造来增强AI生成文档安全性的新框架。该系统采用跨线索感知思维链机制进行代理推理，该机制交叉验证视觉异常与文本语义，以提供基于证据的取证分析。DocShield还利用加权多任务奖励进行优化，并辅以RealText-V1数据集，该数据集包含具有详细操纵掩码和解释的多语言文档类文本图像。实验表明，DocShield在基准数据集上的表现显著优于现有方法，甚至优于GPT-4o。