非营利组织 AI Forensics 的一份报告显示，开源人工智能平台 Hugging Face 托管了大量能够生成未经同意的深度伪造裸照的模型。研究人员发现，该平台上九个经过测试的图像编辑 Spaces 中有七个可以轻松地将穿着衣服的图像转换为裸露上身的图像。进一步的测试表明，提交给这些 Spaces 的绝大多数提示都具有性意味，其中很大一部分旨在将个人（主要是女性，有时是儿童）性化或脱衣。尽管有反对此类材料的内容政策，Hugging Face 似乎缺乏强大的平台级安全措施，允许用户生成这些有害图像。 AI
影响 凸显了人工智能平台安全方面存在的严重缺陷，可能加速针对开源模型分发的监管行动。
排序理由 报告详细说明了一个主要人工智能平台在安全和政策方面存在的重大缺陷。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
