PulseAugur
中
实时 07:21:21
English(EN) Measuring Definition Sensitivity in LLM Annotation of Social Science Concepts

新研究强调LLM在概念定义标注中的敏感性

作者 PulseAugur 编辑部 · [1 个来源] ·

一项新近发表在arXiv上的研究调查了大型语言模型（LLMs）在标注社会科学概念时如何解释和应用定义。研究人员发现，LLMs表现出“定义敏感性”，这意味着当呈现同一概念的不同、相互竞争的定义时，它们的标注会发生显著变化。这种敏感性比仅仅改写定义时更为明显，表明LLM生成的标注深受所提供定义的具体措辞影响。研究结果表明，使用LLMs进行标注的研究人员必须报告所使用的确切定义，因为LLM的解释会改变最终的标签。 AI

影响 强调了在使用LLMs进行研究标注时，仔细进行提示工程和透明报告的必要性。

排序理由 该集群包含一篇发表在arXiv上的研究论文，详细介绍了关于LLM行为的实验结果。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新研究强调LLM在概念定义标注中的敏感性

本文如何被排名

Signal score
31 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该集群包含一篇发表在arXiv上的研究论文，详细介绍了关于LLM行为的实验结果。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
paper, other
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Bogdan Mamaev, Qizhou Wang, Christopher Leckie, Matteo Vergani ·

    衡量LLM在社会科学概念标注中的定义敏感性

    arXiv:2611.13339v1 Announce Type: new Abstract: In social science research, text annotation is a fundamental task that is traditionally a costly, hard-to-scale manual process. Researchers have used large language models (LLMs) to perform annotation by writing a definition of a co…

相关实体

相关话题