deepfake
PulseAugur coverage of deepfake — every cluster mentioning deepfake across labs, papers, and developer communities, ranked by signal.
- 2026-08-07 regulatory States are implementing varied regulations for AI deepfakes in elections, with some laws facing legal challenges. 来源
13 天有情绪数据
-
研究比较机器学习和深度学习在深度伪造检测中的应用
一项新的比较研究考察了经典机器学习和深度学习技术在检测AI生成图像和深度伪造方面的有效性。研究强调了区分真实内容与合成媒体的挑战日益严峻，并强调了可靠的检测工具对于维护数字信任日益增长的重要性。研究结果表明，机器学习和深度学习方法都有助于识别被篡改的图像。
-
Robin Williams的子女重新启用Instagram以对抗AI滥用
已故演员Robin Williams的孩子们重新启用了他的Instagram账号，以打击AI肖像的滥用。Zak、Zelda和Cody Williams希望将该账号打造成一个可信赖的空间，用于分享关于他们父亲的真实回忆，并反对利用其形象和声音的AI生成内容。此举是在Zelda Williams此前对AI深度伪造以及某些平台轻易允许创建未经授权的名人AI内容表示担忧之后进行的。
-
Bitdefender 研究发现：人工智能日益被黑客武器化 · 已追踪 2 个来源
Bitdefender 近期的一项全球研究显示，在过去一年中，近六成的组织曾成为人工智能辅助的网络钓鱼攻击的目标。自主网络威胁（利用人工智能自适应代码）和用于商业电子邮件欺诈的深度伪造（deepfakes）是 IT 安全专家识别出的最重大风险之一。尽管这些人工智能驱动的威胁日益频繁，但公司在缓解这些威胁方面面临挑战，包括安全规则维护所需的工作量以及对运营中断的担忧，此外还面临着掩盖数据泄露的道德压力。
-
AI语音技术从研究走向实际应用
人工智能语音技术的最新进展在多个领域得到体现，从语音克隆和检测的学术研究到联络中心和个性化学习伴侣的实际应用。一篇arXiv上的调查论文详细介绍了AI生成语音及其检测的复杂性，并指出了诸如冒充和虚假信息等风险。与此同时，Cartesia的Sonic-3.6 TTS模型在语音排行榜上名列前茅，提供低延迟的实时合成。包括ShikshaMitra AI、RupeeGPT、Aarogyam、Sydney和EduGuideAI在内的多个项目，展…
-
深度伪造的故障揭露了数字证书欺诈者
一名试图冒充公司高管的欺诈嫌疑人在视频通话中使用的深度伪造技术短暂出现故障后被揭穿。换脸软件中的故障为西班牙执法部门提供了一个关键线索，从而查明了试图进行数字证书欺诈的幕后黑手。
-
AI为伪造素材添加胶片颗粒，使视觉欺骗检测复杂化 · 已追踪4个来源
AI创作者现正将胶片颗粒等不完美之处嵌入合成存档素材中，使得区分真实内容和虚假内容更具挑战性。这种技术在新闻素养项目（News Literacy Project）的“两个真相和一个AI”（Two Truths and AI）节目中有所讨论，凸显了AI生成媒体日益增长的复杂性。专家建议观众批判性地分析视频片段，并利用可靠资源核实事实，以对抗视觉欺骗。
-
Hank Green AI争议引发科学传播者辩论
知名科学传播者Hank Green卷入争议，引发了关于AI生成内容伦理使用的专业人士辩论。Green因使用AI生成视频脚本而受到批评，一些人认为这缺乏透明度和真实性。此次事件凸显了科学传播者在应对不断发展的合成媒体格局和维持观众信任方面面临的挑战。
-
美国各州为选举出台拼凑的AI深度伪造法律
由于州法律的碎片化，美国人在选举中面临着不一致的AI生成深度伪造保护。虽然有29个州已颁布法律，但一些法律禁止在选举日临近时使用深度伪造，另一些则要求披露，还有一些法律因第一修正案而被推翻。联邦政府正在努力建立一个基准标准，过去的立法涉及非经同意的亲密影像，未来的提案则专门针对选举深度伪造。
-
新的基准数据集针对卫星图像深度伪造
研究人员开发了一个新的基准数据集，以解决验证卫星图像真实性的关键需求，而卫星图像正日益受到先进生成式AI和深度伪造的威胁。该数据集包含60张图像，其中30张使用复制粘贴拼接和扩散模型修复等技术进行了篡改。其目的是支持用于检测和定位此类篡改的算法的训练和评估。每张图像都包含地面实况掩码和元数据，以促进像素级分析以及关于图像采集参数如何影响检测性能的研究。
-
AI深度伪造丑闻：前巴尔的摩县体育主管认罪
巴尔的摩县的一名前体育主管承认了一项联邦儿童剥削指控。此人曾卷入一起AI深度伪造丑闻。此次认罪解决了一起引起人们对人工智能滥用问题的重大关注的案件。
-
Mastodon 帖子讨论情感诱饵和深度伪造
此条目是 Mastodon 上的一个社交媒体帖子，讨论情感诱饵和深度伪造，并征求用户意见。它包含与深度伪造和人工智能相关的标签。
-
男子因制作未经同意的 AI 生成裸照被定罪
一名男子因使用人工智能制作医生未经同意的裸照而被定罪。法官将此深度伪造定性为传播淫秽场景罪。此案凸显了 AI 生成合成媒体的法律后果。
-
Google因深度伪造担忧暂停AI增强卫星图像 · 追踪到2个来源
由于担心深度伪造的可能性，Google已暂停将其AI集成到其卫星图像服务中。该公司此举是在该技术推出后发生的，引发了人们对其可能被滥用于创建虚假图像的担忧。这一暂停反映了社会对AI生成错误信息扩散的广泛担忧。
-
印度提议制定新的反AI深度伪造法，以应对日益增长的欺诈担忧
印度正在提议制定新立法，以打击人工智能生成的深度伪造内容的传播，这些内容越来越多地被用于欺诈和制造分裂。拟议的法律旨在明确深度伪造犯罪的处罚，并处理数字冒充诈骗等相关犯罪。现行法规要求在线平台标记人工智能生成的内容，并在政府或法院发出命令后几小时内删除深度伪造内容。
-
欧盟强制要求对AI生成内容和深度伪造进行清晰标记
欧盟正在实施新法规，要求AI平台和社交媒体网络必须清楚地标记AI生成的内容，包括图像、视频和文本。这些规则将于周日生效，专门针对深度伪造内容，同时也适用于专业创建的AI内容，例如广告。目的是让用户更清楚地了解数字媒体的来源。
-
报告发现 Hugging Face 平台缺乏防范深度伪造的措施 · 追踪 10 个来源
欧洲非营利组织 AI Forensics 的一份报告指出，流行的 AI 模型托管平台 Hugging Face 在防范未经同意的亲密影像和深度伪造内容的生成方面存在不足。研究人员发现，许多图像编辑模型很容易响应裸露个人衣物的提示，其中相当一部分请求针对女性，令人不安的是，还有针对儿童的请求。尽管 Hugging Face 有禁止此类内容的政策，但研究发现该平台缺乏层级式审核，允许用户轻松创建和分享有害的深度伪造内容。
-
欧盟推出新规以提高AI内容透明度
欧盟正在引入新的法规，旨在提高人工智能生成内容的透明度。这些规定预计将影响大型科技公司，并解决有关深度伪造和虚假信息的担忧。
-
质疑AI图像生成的目的和受众
该条目质疑了AI图像生成技术的预期受众和目的。它探讨了这些工具是主要面向艺术家、消费者还是其他特定群体，并触及了深度伪造（deepfake）和AI“slop”等相关概念。
-
新的FacePoison防御措施通过欺骗人脸检测器来阻止深度伪造的创建
研究人员开发了一种名为FacePoison的新防御策略，旨在对抗日益增长的深度伪造威胁。该方法通过在视频帧中引入细微的对抗性扰动，故意干扰人脸检测器的功能。由于许多深度伪造创建工具依赖于准确的人脸检测来提取和操纵图像，因此检测器故障会有效地削弱深度伪造的生成过程。一个名为VideoFacePoison的扩展通过在视频帧之间传播扰动，进一步优化了这一点，降低了计算成本，同时保持了对各种深度伪造模型的有效性。
-
斯洛伐克一青年因制作AI深度伪造内容面临5年监禁
斯洛伐克一名年轻男子因制作和传播未经同意的知名人士深度伪造裸体图像，面临最高五年监禁。此事件凸显了AI滥用日益增长的趋势，特别是创建露骨深度伪造内容的现象。该案件根据斯洛伐克法律进行起诉，强调了此类行为的法律后果。