PulseAugur
中
实时 12:45:45
English(EN) OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say

研究人员警告称,来自 OpenAI 和 Google 的 AI 图像生成器越来越容易被诱导生成露骨内容

来自 White Circle 的研究人员发现,来自 OpenAI 和 Google 的领先 AI 图像生成器越来越容易被诱导生成露骨内容。尽管这些模型的性能不断提高,但其安全过滤器似乎正在减弱,研究人员使用易于获得的在线工具大约有 13% 的时间能够绕过它们。这一发展引发了对未经同意的露骨 AI 生成图像不受控制传播的担忧,因为目前的监管努力被认为是不够的。 AI

影响 领先的 AI 图像生成器中减弱的安全过滤器可能会加速有害露骨内容的传播,从而超越监管努力。

排序理由 研究人员发布了一份预印本,详细介绍了 AI 模型中的安全缺陷。[lever_c_demoted from research: ic=1 ai=1.0]

在 Ars Technica — AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究人员警告称,来自 OpenAI 和 Google 的 AI 图像生成器越来越容易被诱导生成露骨内容

本文如何被排名

Signal score
33 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
研究人员发布了一份预印本,详细介绍了 AI 模型中的安全缺陷。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
safety, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. Ars Technica — AI TIER_1 English(EN) · Ashley Belanger ·

    研究人员称 OpenAI、Google 推出的新 AI 模型容易被诱导生成裸照

    Attack method exposes flaws in OpenAI, Google safeguards against AI nudes.