使用大型语言模型 (LLM) 来做安全决策存在根本性缺陷，不能被视为可靠的安全控制。Anthropic、OpenAI 和 Google 等主要 AI 开发商正在推广这种能力，这被视为一种危险的幻想。这种对 LLM 的安全依赖预计将导致与提示注入漏洞的持续斗争。 AI
影响 质疑 LLM 在关键安全功能方面的可靠性，并暗示持续存在的漏洞。
排序理由 该条目表达了专家关于 LLM 在安全方面局限性的观点。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
LLMs can't make security decisions in a way that actually counts as a valid, reliable security control. Anthropic, OpenAI, Google, etc. are all pretending they can. We will forever be battling prompt injection because of this fantasy. # ai # llm # promptinjection # jailbreak