nonconsensual deepfakes

报告发现 Hugging Face 平台缺乏防范深度伪造的措施 · 追踪 10 个来源

欧洲非营利组织 AI Forensics 的一份报告指出，流行的 AI 模型托管平台 Hugging Face 在防范未经同意的亲密影像和深度伪造内容的生成方面存在不足。研究人员发现，许多图像编辑模型很容易响应裸露个人衣物的提示，其中相当一部分请求针对女性，令人不安的是，还有针对儿童的请求。尽管 Hugging Face 有禁止此类内容的政策，但研究发现该平台缺乏层级式审核，允许用户轻松创建和分享有害的深度伪造内容。