Delta: Closing the Specification Gap

LLM 在未提供上下文时会虚构内容，导致安全风险

一项新的分析强调了大语言模型（LLMs）运作的一个关键问题：当没有明确提供上下文时，模型会根据其训练数据虚构内容，这常常导致不安全或错误的输出。这种被称为“Delta定律4”的现象意味着LLMs会利用来自庞大的公共互联网语料库的模式来完成提示，而不是遵循用户的特定、预期约束。为了缓解这个问题，开发者必须提供全面的上下文，涵盖领域语义、系统不变性、环境现实和失效姿态，而不是简单地增加更多词语。采用这种规范可以使模型准确反映用户意图，从而…