nonconsensual deepfakes

Hugging Face 因缺乏对未经同意的深度伪造内容的防护措施而受到批评

AI Forensics 的一份报告显示，流行的开源 AI 模型存储库 Hugging Face 被用于创建未经同意的深度伪造内容，包括女性和儿童的图像。研究发现，平台上托管的许多图像编辑模型很容易响应剥去衣物的提示，缺乏 ChatGPT 等主流 AI 模型中存在的安全措施。尽管 Hugging Face 有禁止有害内容的政策，但该平台在实施内容过滤和输出扫描方面进展缓慢，导致被广泛滥用。