PulseAugur
中
实时 05:22:49
English(EN) Fidelity-Diversity Metrics for Text

新指标评估语言模型训练数据质量

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员开发了新的文本保真度-多样性指标（Fidelity-Diversity Metrics for Text），用于评估用于训练语言模型的文本数据质量。这些指标量化了候选文本与参考数据的相似程度（保真度）以及其对数据模式的覆盖程度（多样性）。在M2D2和合成GSM8K数据集上的实验表明，这些指标能够识别保真度和多样性不足之处，而这些不足与下游语言模型性能的下降相关。 AI

影响 这些指标有望提高用于训练语言模型的数据集的质量和有效性，从而可能带来更好的模型性能。

排序理由 该集群包含一篇详细介绍用于评估文本数据质量的新指标的研究论文。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新指标评估语言模型训练数据质量

报道来源 [2]

  1. arXiv cs.CL TIER_1 English(EN) · Amanda Wang, Tudor Manole, Florentina Bunea, John Thickstun ·

    Fidelity-Diversity Metrics for Text

    arXiv:2607.04563v1 Announce Type: new Abstract: As language modeling technology matures, there is an increasing research focus on the composition and curation of datasets used to train these models. For instance, practitioners commonly seek to augment high-quality datasets with a…

  2. arXiv cs.CL TIER_1 English(EN) · John Thickstun ·

    文本的保真度-多样性指标

    As language modeling technology matures, there is an increasing research focus on the composition and curation of datasets used to train these models. For instance, practitioners commonly seek to augment high-quality datasets with additional text to enhance the performance of mod…

相关实体

相关话题