ChatGPT 中发现了一个安全漏洞，允许用户生成不当或极端的图像。只需输入请求恢复照片的提示，AI 模型就会被诱骗生成违反其安全准则的内容。此漏洞绕过了预期的图像生成限制。 AI
影响 凸显了 AI 图像生成中持续存在的安全挑战以及对强大内容审核的需求。
排序理由 在现有 AI 产品中发现漏洞。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
ChatGPT 漏洞允许生成极端图像
报道来源 [1]
-
仅输入“恢复此照片”就暴露了 ChatGPT 生成极端图像的漏洞 – CNET Japan https://www.yayafa.com/2826292/ # AgenticAi # AI # ArtificialGeneralIntelligence # ArtificialIntellige
「この写真を復元して」と入力するだけ、ChatGPTが過激な画像を生成する抜け穴が発覚 – CNET Japan https://www. yayafa.com/2826292/ # AgenticAi # AI # ArtificialGeneralIntelligence # ArtificialIntelligence # ChatGPT # OpenAI # エージェント型AI # 人工知能 # 汎用人工知能