一项新近发表在arXiv上的研究评估了包括Mistral AI、Gemini Flash、Claude Sonnet和Claude Opus在内的几款大型语言模型在判断美国总统行为和假设性改革方面的稳健性。在30天内,研究人员每天两次查询这些模型,对40项过去的总统行为和15项拟议改革进行评分。研究结果表明,模型在总统行为的平均得分符号和排名上总体上高度一致,表现出很高的稳健性。模型给出相同行为相反符号判断的情况约占4%,同一天内的回应比不同天的回应更一致。研究还指出,模型回应可能会因底层服务变更而发生变化,而这些变更并不总是在用户界面上显而易见。相关的16,500项判断数据集已发布。 AI
影响 这项研究表明,大型语言模型可以在复杂的社会政治议题上提供一致但可能变化的判断,这将影响它们在公共事务中的应用。
排序理由 该集群包含一篇详细介绍大型语言模型能力研究结果的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →