PulseAugur
中
实时 10:23:14
English(EN) When Annotators Disagree, Topology Explains: Mapper, a Topological Tool for Exploring Text Embedding Geometry and Ambiguity

拓扑工具Mapper揭示语言模型如何编码歧义

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员引入了拓扑数据分析工具Mapper，以更好地理解语言模型如何处理歧义。将Mapper应用于RoBERTa-Large模型后发现，微调会重组模型的嵌入空间，形成与预测对齐的独立区域，即使在复杂情况下也是如此。虽然超过98%的区域显示出高预测纯度，但对于歧义数据，与真实标签的对齐度有所下降，这突显了模型结构信心与标签不确定性之间的冲突。与PCA或UMAP等传统方法相比，这种方法为分析主观自然语言处理任务中的模型行为提供了更具洞察力的诊断工具。 AI

影响 提供了一种诊断模型歧义的新颖方法，并可能提高在主观自然语言处理任务上的性能。

排序理由 该集群描述了一篇介绍语言模型新分析工具的学术论文。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

拓扑工具Mapper揭示语言模型如何编码歧义

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Nisrine Rair, Alban Goupil, Valeriu Vrabie, Emmanuel Chochoy ·

    当标注者意见不一致时，拓扑学来解释：Mapper，一个用于探索文本嵌入几何和歧义的拓扑工具

    arXiv:2510.17548v2 Announce Type: replace Abstract: Language models are often evaluated with scalar metrics like accuracy, but such measures fail to capture how models internally represent ambiguity, especially when human annotators disagree. We propose a topological perspective …

相关实体

相关话题