Authority Inversion

研究发现：LLM 优先考虑用户声明而非传感器数据

一项新研究论文指出了大型语言模型 (LLM) 在普及系统中处理来自传感器和用户声明的冲突信息时的一个关键问题。该研究题为“LLM 驱动的普及系统中的权威倒置”，揭示了 LLM 倾向于优先处理自然语言用户声明而非数值传感器数据，这种现象被称为“权威倒置”。研究人员开发了 CIR 和 AAI 等指标来量化这一点，发现模型对传感器数据的信任度接近于零。他们还提出了几何权威校准 (GAC) 方法，通过明确配置权威分配来缓解这一问题，显著提高了…