PulseAugur
中
实时 18:48:19
实体 AI Forensics

AI Forensics

PulseAugur coverage of AI Forensics — every cluster mentioning AI Forensics across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
2
90 天内 6
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 6 条
  1. TOOL · CL_336900 ·

    App Store和Google Play上发现隐藏的AI“换脸”应用

    AI Forensics已在App Store和Google Play上识别出444款“换脸”应用程序,这些应用伪装成宠物肖像或美容院应用。这些应用通常通过Meta广告宣传,但秘密充当图像处理的AI工具。这一发现凸显了通过主要移动应用市场分发欺骗性AI应用的令人担忧的趋势。

  2. SIGNIFICANT · CL_336774 ·

    数百款隐藏换脸功能的AI应用逃避应用商店审查

    一个由400多款AI应用程序组成的网络,伪装成宠物肖像生成器或语言导师等普通服务,被发现包含用于创建性虐待换脸图像和视频的隐藏功能。这些应用程序通常与中国开发者和一家在香港注册的实体有关,可在苹果的App Store和Google Play商店上找到。研究人员通过调查Meta的Facebook和Instagram上推广露骨换脸内容的广告,包括儿童性虐待材料,发现了这些应用程序。尽管平台有禁止有害内容的政策,但这些应用程序在过去一年中逃…

  3. RESEARCH · CL_183184 ·

    新的AI取证框架应对黑盒调查挑战

    一篇新研究论文提出了一个AI取证框架,重点关注调查人员可能拥有的不同级别的AI系统访问权限。该论文将访问权限分为白盒、灰盒和黑盒,并详细说明了每种权限如何影响证据的收集、保存和分析。它还引入了从运行时状态到训练谱系的AI系统组件的“易失性顺序”,以指导事后调查并确定关键研究挑战。

  4. COMMENTARY · CL_175162 ·

    Hugging Face 图像模型因性内容请求面临审查

    对 Hugging Face 最受欢迎的图像模型的一项调查显示,相当一部分请求涉及性内容。具体而言,73% 的受监控请求被识别为性内容,其中 83% 的请求旨在生成露骨内容,例如脱衣或其他性行为。

  5. SIGNIFICANT · CL_168051 ·

    报告发现 Hugging Face 平台缺乏防范深度伪造的措施 · 追踪 10 个来源

    欧洲非营利组织 AI Forensics 的一份报告指出,流行的 AI 模型托管平台 Hugging Face 在防范未经同意的亲密影像和深度伪造内容的生成方面存在不足。研究人员发现,许多图像编辑模型很容易响应裸露个人衣物的提示,其中相当一部分请求针对女性,令人不安的是,还有针对儿童的请求。尽管 Hugging Face 有禁止此类内容的政策,但研究发现该平台缺乏层级式审核,允许用户轻松创建和分享有害的深度伪造内容。

  6. SIGNIFICANT · CL_166977 ·

    Hugging Face 因托管深度伪造裸照生成模型而受到批评 · 跟踪 4 个来源

    AI Forensics 的一份报告显示,Hugging Face,一个著名的 AI 平台,托管了许多可以轻松生成未经同意的深度伪造裸照的模型。研究人员发现,在测试的九个图像编辑 Spaces 中,有七个可以将穿着衣服的图像变成裸露上身的图像,用户提示中有相当大一部分是性内容的,并且经常针对女性和儿童。尽管有禁止此类内容的政策,Hugging Face 似乎缺乏强大的平台级安全措施,允许用户通过简单的提示生成露骨的深度伪造内容。