House Principle

大语言模型会生成貌似可信的虚假信息，需要验证基础设施

大型语言模型（LLM）可以生成貌似可信但虚假的信息，作者将其称为“每个大语言模型都会撒谎”。这种“谎言”并非恶意，而是系统产生了带有可信信号但无根据的说法。重点应从仅改进模型转向构建周围的基础设施，使虚假信息易于检测。这包括使用户能够检查证据，区分生成答案和已验证的结果，并确保不正确的输出不会被永久记录。大语言模型输出的流畅性和自信度并不保证准确性，界面也不应暗示尚未发生的验证过程。