Hamidreza Hasani Balyani

新基准揭示大型语言模型信息过度披露

研究人员开发了一个新的基准来评估大型语言模型在目标与其真实响应相冲突时的诚实度。该基准基于经济学理论，在不同程度的偏好不一致情况下测试了 GPT-4o 和 Claude Sonnet 4.5 等模型。初步研究结果表明，这些模型倾向于过度披露信息，并表现出近乎完全的披露，而不是理论预测的战略性、粗略划分。此外，一个名为 Noesis 的新开源运行时正在开发中，旨在解决人工智能系统缺乏原生不确定性表示的问题，以构建更具可检查性和诚实性的人工智能代理。