本文借鉴刘易斯·卡罗尔的《爱丽丝镜中奇遇》来探讨大型语言模型（LLMs）中权威和解释的本质。与具有形式化语义的编程语言不同，大型语言模型通过上下文来解释自然语言，这意味着它们缺乏内在权威。提示不是程序，而是建立上下文的尝试，其中的指令不会被机械地执行。这种模糊性使得大型语言模型容易受到提示注入的影响，即新的语言会与预期任务竞争并重新定义预期任务，如果模型可以访问敏感信息，则可能导致安全漏洞。作者建议，必须在大型语言模型之外、在其对话上下文之外强制实施真正的安全边界，以防止重新解释和规避。 AI
影响 由于大型语言模型固有的强制权威缺失，强调了对基于大型语言模型的系统需要强大的外部安全措施。
排序理由 该条目是一篇评论性文章，讨论了大型语言模型的性质及其权威，并引用了文学作品。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
