Deepfake Detection
PulseAugur coverage of Deepfake Detection — every cluster mentioning Deepfake Detection across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
音频深度伪造模型解释被发现存在脆弱性
研究人员已经证明，音频深度伪造检测模型的解释是可以被操纵的。通过引入不易察觉的扰动，攻击者可以在不改变音频片段是否为深度伪造的最终预测的情况下，改变模型的归因热图。这种漏洞在各种最先进的架构上进行了测试，突显了当前音频分析可解释性方法的潜在弱点。
-
深度伪造检测研究应对公平性和不确定性
两篇新研究论文解决了深度伪造检测中的挑战，重点关注公平性和不确定性量化。一篇论文介绍了 Face-Fairness (FF) 框架，该框架在无需敏感身份标签的情况下减轻了跨人口统计群体的偏见。另一篇论文提出了 Correlation-Optimized Fusion (COF)，这是一种架构自适应方法，用于提高深度伪造检测系统中不确定性估计的可靠性，尤其是在分布变化的情况下。
-
新的AI方法通过可解释性和泛化性增强深度伪造检测
研究人员正在开发先进的深度伪造检测方法，特别是在医学影像和面部识别等敏感领域。新方法侧重于可解释性、跨不同伪造技术的泛化性，以及针对GAN等特定生成模型的专门检测。这些技术旨在通过识别伪造特有的伪影并为其预测提供清晰的解释来提高准确性和可信度。
-
新的Omni-Fake数据集对社交媒体上的多模态深度伪造检测进行基准测试
研究人员推出了Omni-Fake，这是一个新的基准数据集，旨在改进社交媒体上多模态深度伪造的检测。该数据集包含跨图像、音频、视频和音频-视频说话人脸模态的超过100万个样本，以及一个用于测试泛化能力的分布外基准。Omni-Fake还支持一个用于深度伪造的联合检测、定位和解释的协议，并引入了一个名为Omni-Fake-R1的基于强化学习的检测器，该检测器集成了跨模态线索，以获得更准确和可解释的结果。
-
Reality Defender 发布 RealAPI，用于可扩展的深度伪造和 GenAI 检测
Reality Defender 推出了 RealAPI，这是一项旨在帮助开发人员将深度伪造和生成式 AI 检测集成到其应用程序中的新服务。该 API 提供了识别经过篡改的图像、音频和视频的功能，定价方案从面向个人开发者的免费选项到定制的企业解决方案不等。该工具旨在通过提供篡改概率分数和可解释的指标，协助进行身份验证、欺诈预防和媒体内容身份验证等领域。