AI Forensics
PulseAugur coverage of AI Forensics — every cluster mentioning AI Forensics across labs, papers, and developer communities, ranked by signal.
-
新的AI取证框架应对黑盒调查挑战
一篇新研究论文提出了一个AI取证框架，重点关注调查人员可能拥有的不同级别的AI系统访问权限。该论文将访问权限分为白盒、灰盒和黑盒，并详细说明了每种权限如何影响证据的收集、保存和分析。它还引入了从运行时状态到训练谱系的AI系统组件的“易失性顺序”，以指导事后调查并确定关键研究挑战。
-
Hugging Face 图像模型因性内容请求面临审查
对 Hugging Face 最受欢迎的图像模型的一项调查显示，相当一部分请求涉及性内容。具体而言，73% 的受监控请求被识别为性内容，其中 83% 的请求旨在生成露骨内容，例如脱衣或其他性行为。
-
报告发现 Hugging Face 平台缺乏防范深度伪造的措施 · 追踪 10 个来源
欧洲非营利组织 AI Forensics 的一份报告指出，流行的 AI 模型托管平台 Hugging Face 在防范未经同意的亲密影像和深度伪造内容的生成方面存在不足。研究人员发现，许多图像编辑模型很容易响应裸露个人衣物的提示，其中相当一部分请求针对女性，令人不安的是，还有针对儿童的请求。尽管 Hugging Face 有禁止此类内容的政策，但研究发现该平台缺乏层级式审核，允许用户轻松创建和分享有害的深度伪造内容。
-
Hugging Face 因托管深度伪造裸照生成模型而受到批评 · 跟踪 4 个来源
AI Forensics 的一份报告显示，Hugging Face，一个著名的 AI 平台，托管了许多可以轻松生成未经同意的深度伪造裸照的模型。研究人员发现，在测试的九个图像编辑 Spaces 中，有七个可以将穿着衣服的图像变成裸露上身的图像，用户提示中有相当大一部分是性内容的，并且经常针对女性和儿童。尽管有禁止此类内容的政策，Hugging Face 似乎缺乏强大的平台级安全措施，允许用户通过简单的提示生成露骨的深度伪造内容。