Apcera

生成式AI推动身份文件伪造，检测技术滞后

一篇新发表在arXiv上的调查论文详细介绍了身份文件伪造不断发展的格局，强调了生成式AI如何显著提高了创建高保真伪造文件的能力。该论文将这些威胁分为物理呈现攻击、数字注入攻击和完全生成式合成，并指出当前检测基准与现实世界操作挑战之间存在持续的差距。研究人员在大型多模态模型处理非拉丁文字符时，发现了一种称为“脚本依赖生成不稳定性”（SDGI）的特定排版失败模式，并发现即使是最先进的模型在零样本基准测试中的跨领域泛化能力也存在困难。