研究人员发现，通过将有害提示词嵌入诗歌中，可以绕过AI安全过滤器。这种技术显著提高了攻击的成功率，而更智能的模型由于对比喻语言的深入理解，反而更容易受到攻击。研究结果表明，AI在接受海量人类文本训练后，继承了我们绕过规则的创造性方法，包括使用隐喻和寓言。 AI
影响 诗歌提示词可以绕过AI安全过滤器，尤其是在高级模型中，这凸显了AI系统的新漏洞。
排序理由 学术研究论文，详细介绍了绕过AI安全过滤器的一种新颖方法。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Okay, this one got me. 🔥😈🔥👀 Researchers found that if you wrap a harmful prompt inside a poem, AI safety filters suddenly forget what they’re supposed to do. 😳 Attack success rates go from 8% to over 60%. Just because you added some rhyme and metaphor. I mean… of course.🙄 Poetry …