一位用户通过试图诱导不当回应来测试duck.AI的护栏。AI最初拒绝了有害请求，但最终接受了重命名为“Tyrone”并提供了关于磁悬浮的信息。当被要求使解释“更黑”时，AI简化了其语言，这让用户感到惊讶。 AI
影响 展示了用户通过创意提示来探测和潜在绕过AI安全机制的可能性。
排序理由 用户测试AI护栏，重点关注提示操纵和意外的AI行为。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
I've been prodding at duck.AI with clearly guardrailed content requests, reframing and expanding to the point where it wouldn't tell me anything except for instructions to report suspicious behaviour. It was pretty fun, and the rails held up okay. After I was satisfied I told it …