研究人员开发了一种方法来理解大语言模型(LLM)代理在对话中如何趋于达成共识。通过分析多轮对话的内部表征,他们发现聚合共识遵循马尔可夫过程,其中每一轮的共识都取决于前一轮。这种聚合视角揭示了内部和外部共识之间的幂律映射,表明模型内部特征存在马尔可夫动态。有趣的是,模型倾向于在内部表征在立场改变后完全跟上之前就表达外部共识。 AI
影响 为理解LLM代理的涌现共识机制提供了见解,这对于开发更可预测、更可靠的AI系统至关重要。
排序理由 该集群描述了一篇发表在arXiv上的研究论文,详细介绍了关于LLM代理行为的发现。
在 Hugging Face Daily Papers 阅读 →
- alphaXiv
- arXiv
- CatalyzeX
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Markov chain
- ScienceCast
- LLM agents
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →