一位开发者提出了一种方法来对抗大型语言模型 (LLM) 中的捏造现象，要求模型所做的每一项事实声明都必须是源文档中的精确引用。这种被称为“基于证据的 grounding”的方法，涉及将输出字段分类为复制或组合，并使用代码来验证所有事实字段是否为直接复制。提示应明确说明将拒绝未通过精确字符串匹配找到的答案的规则，并且像最大项目数或字符串长度之类的约束应在模式中强制执行，而不是在文本中，以防止模型偏离。 AI
影响 通过确保可验证的来源，这种方法可以提高 LLM 在事实提取任务中输出的可靠性。
排序理由 开发者的博客文章，提出了一个针对已知 LLM 问题的技术解决方案。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
