Prompt Heist 是一款基于浏览器的游戏,旨在教玩家了解 AI 应用中的提示注入漏洞。该游戏由 Team StromBreaker 开发,包含五个王国共 30 个关卡,玩家必须使用各种对话技巧从由 Gemma 4 驱动的 AI 守卫那里提取秘密代码。游戏解释了被利用的漏洞以及如何防御它们,并强调游戏的后端(而非 AI)决定胜负以确保公平性。 AI
影响 为开发者提供了一种亲身实践的方法来理解和减轻 AI 应用中的提示注入风险。
排序理由 该条目描述了一款使用 AI 模型 Thus 游戏,但主要重点是游戏本身作为学习 AI 安全的工具,而不是新的 AI 模型发布或核心 AI 研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →