一个名为 ChronoCulture 的新基准已被开发出来,用于评估大型语言模型(LLMs)在不同时期内的文化意识。该基准由 10,360 个时间对组成,这些时间对源自 72 个国家/地区的纵向调查数据,并使用调查问题和人口响应分布作为真实情况。对六个 LLMs 的初步测试表明,虽然这些模型通常可以预测特定时间点的文化态度,但它们难以准确地表示这些态度是如何演变的。使用特定年份提示模型也显示出在与调查响应保持一致方面几乎没有改善,这表明 LLMs 倾向于呈现静态的文化动态视图。 AI
影响 突显了 LLMs 在理解时间性文化转变方面的差距,表明未来模型需要更好地捕捉不断变化的社会规范。
排序理由 该集群描述了一篇介绍用于评估 LLMs 的新颖基准的学术论文。
- arXiv
- ChronoCulture
- country
- Hugging Face
- large language models
- longitudinal survey data
- population response distributions
- six LLMs
- survey question
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →