arXiv上的一篇新研究论文探讨了大型语言模型（LLM）中已陈述偏好与实际行为之间的差异。研究人员发现，虽然LLM能够持续揭示特定的效用结构，包括意外的偏见，但这些偏好并不一定会转化为驱动其在现实任务中行为的激励。实验表明，提供LLM偏好的结果并不能带来比不偏好或无结果更高质量的输出，这表明推断出的偏好可能不会影响现实世界的行为。 AI
影响 挑战了LLM的陈述偏好直接影响其行为的假设，影响了我们评估和对齐AI系统的方式。
排序理由 发布在arXiv上的研究论文，详细介绍了关于LLM行为的发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
