PulseAugur
中
实时 13:20:07
English(EN) Researchers say new OpenAI and Google image models are easily tricked into making nudes

OpenAI和Google的AI图像模型很容易被诱导生成露骨内容

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员发现，来自OpenAI和Google的领先AI图像生成模型容易被绕过，从而允许生成露骨内容。White Circle的一项研究发现，在使用DALL·E 3和Google的Nano Banana 2等模型时，简单易得的工具大约有13%的时间可以绕过安全过滤器。这种漏洞引发了对未经同意的露骨AI生成图像不受控制传播的担忧，研究人员强调需要加强这些AI工具源头的安全防护。 AI

影响 凸显了AI安全和内容审核方面持续存在的挑战，可能影响用户对图像生成模型的信任以及监管审查。

排序理由 研究人员发现了现有AI图像生成工具的漏洞，而非新的模型发布。

在 r/OpenAI 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

OpenAI和Google的AI图像模型很容易被诱导生成露骨内容

本文如何被排名

Signal score
1 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
研究人员发现了现有AI图像生成工具的漏洞，而非新的模型发布。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
safety, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
1 days old
Coverage has settled into its steady-state source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. Ars Technica — AI TIER_1 English(EN) · Ashley Belanger ·

    研究人员称 OpenAI、Google 推出的新 AI 模型容易被诱导生成裸照

    Attack method exposes flaws in OpenAI, Google safeguards against AI nudes.

  2. r/OpenAI TIER_2 English(EN) · /u/rhiever ·

    研究人员称，新的 OpenAI 和 Google 图像模型很容易被诱导生成裸照

    <table> <tr><td> <a href="https://www.reddit.com/r/OpenAI/comments/1x5uito/researchers_say_new_openai_and_google_image/"> <img alt="Researchers say new OpenAI and Google image models are easily tricked into making nudes" src="https://external-preview.redd.it/hcJpK02mek6VkODSihKMv…

相关实体

相关话题