deepfake
PulseAugur coverage of deepfake — every cluster mentioning deepfake across labs, papers, and developer communities, ranked by signal.
14 天有情绪数据
-
人工智能加剧网络威胁，迫使安全行业在当前危险与未来风险之间寻求平衡
网络安全行业面临双重挑战：一方面要应对人工智能生成的网络钓鱼和凭证盗窃等即时威胁，另一方面要为实时深度伪造和高级社会工程等未来更复杂的攻击做好准备。尽管技术不断进步，但许多当前攻击仍利用电子邮件和人为错误等熟悉载体，只是由于人工智能的介入，其速度和复杂性有所提高。这要求采取多层次防御方法，因为传统的安全电子邮件网关等工具在应对人工智能增强的威胁方面已显不足。
-
欧盟AI法案要求从2026年8月起对深度伪造内容进行标注
自2026年8月2日起，一项新的AI法案将强制要求在各大在线平台上对AI生成的内容，特别是深度伪造内容进行标注。该法规针对发布AI生成媒体的在线商家，要求清晰标识此类内容。该公告强调了数字空间中运营的企业即将面临的合规截止日期。
-
UNHCR警告人工智能虚假信息危及难民
联合国难民署（UNHCR）已发出警告，人工智能驱动的虚假信息对难民构成重大威胁。这项技术可用于传播虚假叙事和深度伪造，可能危及寻求安全的弱势群体。该机构担心信息的完整性及其对人道主义援助工作的影响。
-
欧盟公布人工智能生成内容和深度伪造内容的图标
欧盟已推出新的、可免费使用的图标，用于标记人工智能生成或篡改的内容，旨在根据欧盟《人工智能法案》提高透明度。这些符号供生成式人工智能系统提供商使用，涵盖深度伪造以及在缺乏人类监督的公共利益主题上的人工智能生成文本。虽然使用这些图标是自愿的，但欧盟强调《人工智能法案》下的法律透明度义务仍然有效。
-
AI 工具助力代码质量，增强消息应用，并检测 deepfakes
Simon Willison 使用 Claude Fable 5 发现了 sqlite-utils 4.0 的四个发布阻塞问题，展示了 AI 在代码质量检查中的实用性。同时，一个新的人工智能模型正在为 WhatsApp 的 Stories 效果和图像生成提供支持，标志着生成式 AI 更深入地集成到消息平台中。此外，Hive 提供了一个 AI/deepfake 检测模型，用于分析内容的 AI 生成视频、音频和音乐，并提供真实性的百分比可能性。
-
新型图网络增强面部伪造检测
研究人员开发了SGF-CDNet，这是一种用于检测图像中伪造面部的新型图网络。该模型融合了语义面部区域和几何地标信息，以创建鲁棒的节点。然后，双路径图神经网络分析这些节点的一致性和差异性，识别出表明操纵的细微不协调之处。实验表明，在面部伪造检测的公共数据集上，SGF-CDNet的性能优于现有方法。
-
人工智能的进步与深度伪造技术的发展息息相关
人工智能的进步之路与深度伪造技术的发展和理解有着内在的联系。这种联系突显了在一个领域的进步如何能够显著影响和促进另一个领域的进步。
-
AI vs. Deepfakes：神圣与邪恶的对立
将人工智能与Deepfake进行比较，将AI描绘成神圣的造物，而Deepfake则是邪恶的。这突显了人们对AI技术双重性的普遍看法，即其潜在的益处与其恶意使用的能力形成对比。
-
人类可以被训练来识别AI生成的面孔
澳大利亚国立大学的研究人员开发了一种训练方法，以帮助人类更好地识别AI生成的面孔。发表在PNAS上的一项研究强调，虽然AI生成的面孔越来越逼真，但人类可以被训练来识别细微的差别。这种方法至关重要，因为AI检测算法存在局限性，需要人类来维持合乎道德且可解释的AI检测流程。
-
伊利诺伊州颁布法律打击学校中的人工智能网络欺凌和深度伪造
伊利诺伊州正在实施一项旨在打击其学校系统内人工智能驱动的网络欺凌和深度伪造内容的新法律。该立法旨在应对人工智能在教育环境中日益增长的挑战，特别是关于学生安全和在线互动。该法律的颁布标志着该州在管理人工智能技术对年轻人潜在负面影响方面采取了积极主动的方法。
-
随着数据中心增长和深度伪造的潜力增大，人工智能滥用担忧加剧
文章批评了大型数据中心不受约束的增长以及为训练AI模型而对创意内容进行的无限制抓取。文章强调了AI被滥用的可能性，并引用了唐纳德·特朗普发布深度伪造视频的例子，说明了不择手段的政客如何利用这项技术达到邪恶的目的。
-
Meta 因 AI 生成的深度伪造内容面临压力，引发安全辩论
随着 AI 生成的色情深度伪造内容的出现，Meta 正面临日益严格的审查。这一事态发展重新点燃了围绕同意、在线安全以及平台在防止此类有害内容传播方面的问责制的讨论。
-
欧盟人工智能法案对“深度伪造”的定义引发零售商对营销豁免的担忧
包括Amazon和IKEA在内的主要零售商担心，欧盟人工智能法案对“深度伪造”的定义正在阻碍现代营销实践。这些公司认为，用于广告的人工智能生成图像，例如沙发客厅场景，不应被归类为“深度伪造”，因此应豁免某些透明度规则。Zalando报告称，其营销内容中有很大一部分已由人工智能生成，这凸显了该行业对这些工具的依赖性。
-
专家警告：AI图像工具加剧儿童在线风险
互联网对儿童的危险显著增加，特别是随着AI图像编辑工具的出现。这些技术可用于创建深度伪造（deepfakes）或训练AI模型，可能对在线分享图像的儿童造成终身伤害。专家建议父母将孩子的照片保密，或仅在安全、受信任的应用程序内分享，并警告鉴于儿童面临的数字风险，通过WhatsApp等平台分享是不负责任的。
-
新的Cross-AUC指标为深度伪造检测器提供现实评估
研究人员引入了一种名为Cross-AUC的新指标，以更好地评估深度伪造检测器的性能。在使用接收者操作特征曲线下面积（AUC）的传统方法中，当检测器遇到来自不同来源或不同伪影类型的数据时，可能会产生误导。Cross-AUC通过对每域AUC进行平均，并结合预测极化度量（通过Wasserstein距离量化）来解决这一问题，从而更现实地评估域偏移下的泛化能力。在七个基准数据集上的实验表明，Cross-AUC为深度伪造检测鲁棒性提供了更具可解释…
-
德国启动人工智能驱动的关键基础设施监控
德国司法部长 Marco Buschmann 宣布了一项旨在打击破坏和网络攻击关键基础设施的新举措。该计划被称为“Großer Lauschangriff”（大规模窃听），将利用人工智能和其他先进技术来增强监控和威胁检测能力。
-
AI 判定“过于完美”的皮肤为深度伪造，幽默地重新设定了主题
一个 AI 系统因主题的皮肤显得“过于完美”和水润而将其标记为深度伪造，导致其被拒绝。这一幽默事件导致 AI 在后续创作中将该主题设定为一名门童。
-
深度伪造专家在人工智能进步中失去对自身判断的信任
世界顶尖的深度伪造专家 Hany Farid 表示，由于人工智能生成内容的快速发展，他已不再相信自己分辨真实与虚假媒体的能力。这一观点凸显了区分真实信息与复杂深度伪造内容日益增长的挑战。《纽约时报》的文章讨论了这一问题，强调了人工智能对感知和真相的影响所带来的社会意义。
-
新书提供企业深度伪造防护实用指南
Myster Giraffe创始人Carl Bogan撰写了一本新书，题为《AI面具背后：保护您的企业免受深度伪造侵害》。该书为企业提供了一个实用的指南，以理解和减轻与深度伪造技术相关的风险。书中探讨了深度伪造的潜在危险、益处和整体格局。
-
AI生成的道歉视频促使嫌疑人招供
一名刑事调查中的嫌疑人在观看了自己表达悔恨的AI生成视频后，被感动并招供。AI生成的道歉内容极具说服力，甚至让嫌疑人潸然泪下，最终导致其交代罪行。此案例凸显了AI生成内容在影响人类情感和行为方面的潜力，即使是在法律背景下。