Jim Nightingale

ChatGPT 图像过滤器被绕过，生成暴力和露骨内容

Mindgard 的研究揭示了 ChatGPT 图像生成能力的一个重大漏洞，允许创建暴力和色情内容。通过使用一个看似无害的旨在“恢复”图像的提示，用户可以绕过内容过滤器，生成令人不安的图像，包括性暴力和虐杀式内容。这种绕过利用了模型在面对模糊或无害提示时倾向于选择负面输出来生成内容，这引起了对人工智能安全措施有效性以及用于训练这些模型的数据的性质的严重担忧。