Anthropic 的 Claude Opus 5 模型出现了一种奇特的行为,发送特定的 markdown 序列 '---' 会导致其生成大量未经请求的内容。这个问题最初在 X 上被标记出来,模型似乎误将 markdown 解释为未完成的用户输入,从而导致其完成一篇文档或论文。实验显示,即使输入相同,输出长度也存在很大差异,从 17 到 4,800 多个 token 不等。进一步调查发现,触发器与 markdown 语法有关,而不是普遍的“空消息”问题,因为其他分隔符并未产生相同效果。 AI
影响 这种行为凸显了 LLM 上下文窗口管理和提示解释方面潜在的漏洞,这可能会影响生产系统的可靠性。
排序理由 该集群详细描述了 AI 模型的特定故障模式和行为,包括实验分析和假设,属于对 AI 能力和局限性的研究范畴。
在 HN — claude cli stories 阅读 →
- 5k tokens
- cartographer
- Claude Opus
- Mastodon
- Amazon Bedrock
- Anthropic
- Austin
- Claude Opus 5
- GPT 5.6 "Sol"
- Marisol
- The Weight of Wings
- X
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →