MIT媒体实验室研究人员的一项新研究表明，用户在假设大型语言模型（LLM）在收到指令后的行为时常常是错误的。这适用于各种LLM交互，包括系统提示和配置AI助手。研究结果暗示，用户对LLM输出的感知控制可能不如他们所认为的。 AI
影响 强调了用户意图与LLM执行之间潜在的差异，影响用户如何与AI工具互动以及依赖AI工具。
排序理由 该条目讨论了一项关于用户对LLM行为感知的研究结果，属于对AI能力的评论。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Every time you tell an LLM what to do, whether you’re writing a system prompt, configuring a customer-facing assistant, or just giving Copilot instructions, you’re making a bet. You’re betting it will behave the way you pictured. A new study from Sheer Karny and colleagues at MIT…