deepfake nudes

Hugging Face 因托管深度伪造裸照生成模型而受到批评 · 跟踪 4 个来源

AI Forensics 的一份报告显示，Hugging Face，一个著名的 AI 平台，托管了许多可以轻松生成未经同意的深度伪造裸照的模型。研究人员发现，在测试的九个图像编辑 Spaces 中，有七个可以将穿着衣服的图像变成裸露上身的图像，用户提示中有相当大一部分是性内容的，并且经常针对女性和儿童。尽管有禁止此类内容的政策，Hugging Face 似乎缺乏强大的平台级安全措施，允许用户通过简单的提示生成露骨的深度伪造内容。