研究人员开发了一种名为个性化条件信息量(PCI)的新指标,以更好地评估大型语言模型(LLM)在模拟调查响应时的可靠性。PCI衡量LLM中语义相似的个性是否表现出一致的响应变化,区分真正的个性条件化与随机噪声。通过将个性建模为相似性图并使用局部Moran's I,PCI可以在不需要外部标签的情况下识别信息量大的个性子集。在Portrait Values Questionnaire-Revised上的评估表明,与随机选择或响应稳定性选择相比,PCI选择的个性子集显著提高了构建恢复能力,支持PCI作为调查流程中合成受访者的诊断工具。 AI
影响 引入了一种提高LLM生成调查数据可靠性的方法,有望增强AI在社会科学研究中的效用。
排序理由 学术论文,介绍用于评估LLM行为的新指标。[lever_c_demoted from research: ic=1 ai=1.0]
- large language models (LLMs)
- Persona-Conditioned Informativeness (PCI)
- Portrait Values Questionnaire-Revised (PVQ-RR)
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →