deepfake
PulseAugur coverage of deepfake — every cluster mentioning deepfake across labs, papers, and developer communities, ranked by signal.
- 2026-08-07 regulatory States are implementing varied regulations for AI deepfakes in elections, with some laws facing legal challenges. 来源
11 天有情绪数据
-
意大利总理寻求欧盟为其声音注册商标以打击 AI 深度伪造 · 跟踪 8 个来源
意大利总理 Giorgia Meloni 正在寻求在整个欧盟为其声音注册商标，以防止 AI 生成的深度伪造。她已向欧盟知识产权局提交了一段四秒钟的音频录音。此举旨在防止未经授权使用她的声音用于恶意目的，例如政治虚假信息。
-
公众情绪显示出对人工智能的喜爱和对深度伪造的恐惧
公众对人工智能表达出双重情感，既对AI技术充满热情，又对深度伪造技术的潜在滥用感到担忧。这凸显了社会的一种二元性，即在拥抱创新的同时，也对其伦理影响和欺骗潜力感到担忧。
-
人工智能助长深度伪造内容激增，71%的目标为性内容
人工智能越来越多地被用于创建有害内容，其中相当一部分深度伪造内容涉及性材料。这一趋势引发了对其影响的担忧，尤其是在教育环境中。
-
AI模型在深度伪造检测方面达到98%的准确率
一款新的人工智能模型在检测深度伪造方面表现出惊人的能力，准确率接近98%。这一发展凸显了人工智能在识别篡改媒体方面的能力进步。
-
各州人工智能深度伪造法律难以跟上选举挑战
随着人工智能生成的政治深度伪造内容迅速传播，立法者们发现难以跟上其步伐，尤其是在选举临近之际。对路易斯安那州和马里兰州法律的审查揭示了当前立法努力应对这一挑战的局限性。这些州级法规凸显了在为选民提供充分保护以抵御人工智能驱动的欺骗性内容方面持续存在的斗争。
-
AI炒作活动探讨深度伪造和社交可读性
在“AI炒作、希望与人性”活动上，进行了一场海报展示，重点关注深度伪造（deepfakes）和社交可读性（social legibility）这两个主题。展示强调，解决这些复杂问题需要一个协作的、全社区的努力。
-
蒙大拿州法官限制对竞选广告中AI深度伪造法律的执行
蒙大拿州的一名法官对旨在监管政治广告中使用AI生成的“深度伪造”内容的州法律的执行施加了限制。该裁决限制了该法律的应用方式，尤其是在竞选广告方面。这一决定影响了该州在政治宣传中追究责任的方法。
-
监督委员会抨击 Meta 的 AI 深度伪造规则不足
监督委员会批评 Meta 关于 AI 生成的深度伪造内容的政策，称其“持续且根本性地不足”。该委员会强调了两个涉及 AI 操纵视频的案例，一个涉及一名政治家，另一个针对一名宣传经期健康教育的女性，认为 Meta 未能充分处理有害内容。委员会建议 Meta 优先审查报告的 AI 内容并确保适当的标签，但 Meta 在实施此类建议方面历来进展缓慢。
-
俄罗斯针对2026年美国大选发动深度伪造攻击 · 已追踪2个来源
据报道，俄罗斯已启动一项针对美国2026年大选的深度伪造攻击。此次行动在新闻和播客讨论中被重点提及，旨在通过虚假内容影响选举进程。人工智能生成的深度伪造技术的应用，对选举的公正性和国家安全构成了重大担忧。
-
应对人工智能生成假新闻和深度伪造的指南
本文提供了应对人工智能生成假新闻和深度伪造的全面指南。它详细介绍了这些技术带来的威胁，并概述了企业和个人应采取的技术和组织对策。该指南还包括对最新工具的比较和实际示例，以提高信息素养。
-
新研究通过跨语言和多模态方法解决深度伪造检测问题 · 跟踪4个来源
研究人员正在开发先进的音频和视频深度伪造检测方法，重点是提高跨不同语言和未见攻击类型的泛化能力。一种名为“语言正交化”的方法旨在从语音模型中去除特定语言的变体，以增强跨语言检测能力。另一种名为CRAF的方法融合了来自自监督学习模型和听觉大语言模型的互补表示，以提高鲁棒性。此外，R2M提供了一个无需训练的框架，通过分离共享组件和生成器特定的伪影来合并深度伪造检测模型，而MARE则利用带有强化学习的视觉-语言模型来创建可解释的深度伪造检测系统。
-
Reddit 用户寻求深度伪造经历的个人叙述以用于演示
r/OpenAI subreddit 上的一位用户正在寻找亲身经历过自己被制作深度伪造（deepfake）的人。他们希望了解个人的感受、深度伪造造成的伤害以及肇事者面临的后果。这些信息将用于一个关于深度伪造主题的演示。
-
新书提供应对企业深度伪造风险的实用指南
Carl Bogan 撰写了一本名为《AI面具背后：保护您的企业免受深度伪造的侵害》的实用指南，该书于2025年出版。本书旨在为企业提供必要的知识和策略，以理解和减轻与深度伪造技术相关的风险。
-
新研究揭示语音身份验证系统存在严重漏洞
两篇新研究论文强调了语音身份验证系统存在的严重漏洞，即使是那些采用了先进深度学习和抗欺骗措施的系统。第一篇论文广泛调查了包括数据投毒、对抗性攻击和深度伪造在内的威胁，并追溯了它们与技术进步同步的演变。第二篇论文介绍了一种新颖的黑盒攻击方法，称为频谱掩码和插值攻击（SMIA），该攻击通过操纵不易察觉的音频频率，以高成功率欺骗安全系统。
-
AI驱动的深度伪造威胁数字信任，预计到2026年每月生成90万个
深度伪造是生成式人工智能和机器学习的产物，对数字信任和安全构成重大威胁。其创建数量的快速增长，预计到2026年每月将生成90万个，影响着包括商业和人际关系在内的各个领域。应对这一挑战需要一种多方面的方法，包括制定法规和开展宣传活动。
-
新研究应对多工具AI图像编辑归因和鲁棒伪造检测
两篇新研究论文探讨了检测经过处理的面部图像的挑战，特别是那些由多种生成式AI工具编辑的图像。第一篇论文介绍了一种名为DPEC的方法，用于多工具图像编辑归因（MIEA），该方法可以识别单个图像上使用的多种编辑工具，并提出了一个名为MultiEdit的新数据集来支持这项任务。第二篇论文对包括Transformer和DINOv3等自监督方法在内的不同AI模型进行了基准测试，以在压缩和模糊等真实图像降级下进行面部伪造检测，发现自监督模型表现出…
-
像Jimmy Kimmel这样的深夜节目主持人被AI深度伪造的内容正在网上蔓延
人工智能生成的深度伪造内容正在网上日益流传，尤其针对深夜脱口秀节目内容。最近的一个例子是一个虚假的Jimmy Kimmel片段，这引发了对媒体真实性的担忧。这些复杂的伪造内容的传播凸显了区分真实内容和AI生成内容日益增长的挑战。
-
AI放大的影响操作暴露了深度伪造的监管空白
人工智能在影响操作中日益增长的应用带来了重大的监管挑战，尤其是在深度伪造内容的创建和传播方面。目前的法规难以应对人工智能生成和传播操纵内容的速度和规模，导致了“监管真空”。这种差距对民主进程和公众信任构成了风险，需要采取积极主动的政策制定方法。
-
深度伪造受害者因人工智能生成的图像而感到被侵犯和焦虑
深度伪造技术正在给受害者带来巨大的痛苦，即使他们知道这些图像是伪造的。个人对这些被操纵图像的潜在传播及其对个人和职业生活的影响感到被侵犯和焦虑。Yle的文章讨论了人工智能生成的虚假内容的滥用所带来的心理影响和担忧。
-
学生制造的AI深度伪造视频攻击教师，问责机制面临困境
教育工作者日益成为AI生成深度伪造内容的受害者，学生们制作并传播教师的色情图片和视频。这一问题造成了巨大的痛苦，并促使一些教师重新评估他们的职业生涯和与学生的关系。尽管已向学校管理人员甚至执法部门报告了事件，但问责一直难以实现，纪律处分往往不足以阻止有害内容在各种社交媒体平台上的传播。