两篇新研究论文探讨了大语言模型（LLMs）与人类决策过程对齐的复杂性。第一篇论文《多方利益相关者大语言模型对齐：分解估计与聚合》提出了一种名为DecompR的方法，将效用估计与聚合分开，旨在减少因用户偏好冲突引起的不稳定性。第二篇论文《谁的对齐？比较不同组织决策背景下的大语言模型的流程对齐》认为，大语言模型与组织的对齐是一个多元化的挑战，而非单一目标问题。它提出通过衡量大语言模型如何权衡信息来测量流程对齐，发现这种方法在某些情况下可以预测准确性，但在其他情况下则暴露出歧视性模式等潜在问题。 AI
影响 这些论文强调了需要更细致的方法来处理大语言模型的对齐问题，表明仅仅匹配输出是不够的，理解大语言模型做出决策的过程对于可靠和公平的AI系统至关重要。
排序理由 该集群包含两篇提交至arXiv的大语言模型对齐研究的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.26878v1 Announce Type: new Abstract: Multi-stakeholder tasks require one output to satisfy users with conflicting preferences. Holistic LLM judges conflate utility estimation and utility aggregation, yielding unstable implicit weights. We show empirically and theoretic…
arXiv:2605.25256v1 Announce Type: new Abstract: Aligning AI systems with organizational decision-making is typically framed as a single-target problem: make the model behave like the organization. We argue this framing obscures a deeper pluralistic challenge. We rely on a decisio…