研究人员开发了一种方法来理解AI模型在对话中如何达成一致。通过分析多轮对话和多次对话中一致性的内部表征,他们发现聚合的一致性遵循马尔可夫过程,其中每一轮的一致性都取决于前一轮。这种聚合视角揭示了内部和外部一致性之间的幂律映射,表明模型在内部表征在立场改变后完全跟上之前就表达了外部一致性。 AI
影响 提供了一种分析LLM对话中涌现一致性的新颖方法,有可能改善代理协调和对AI决策的理解。
排序理由 该集群包含一篇学术论文,详细介绍了分析AI模型行为的新研究方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Markov chain
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →