PulseAugur
中
实时 22:02:57
English(EN) PromptNCE: Pointwise Mutual Information Predictions Using Only LLMs and Contrastive Estimation Prompts

大型语言模型使用新的PromptNCE方法估计互信息

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了PromptNCE，一种新颖的方法，使大型语言模型能够在不需要单独的批评者模型的情况下估计逐点互信息（PMI）。该方法将条件概率估计构建为一项对比任务，并包含一个“OTHER”类别以提高准确性。PromptNCE在基准数据集上实现了强大的零样本性能，与人类得出的PMI的相关性（Spearman correlation）高达0.82。 AI

影响 使大型语言模型能够零样本估计互信息，有可能简化低数据场景下的知识评估和分析。

排序理由 该集群包含一篇学术论文，详细介绍了使用大型语言模型估计互信息的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Juliette Woodrow, Chris Piech ·

    PromptNCE: Pointwise Mutual Information Predictions Using Only LLMs and Contrastive Estimation Prompts

    arXiv:2605.21776v1 Announce Type: new Abstract: Estimating mutual information from text usually requires training a task-specific critic, which limits its use in low-data settings. We ask whether large language models can instead estimate pointwise mutual information zero-shot, u…

相关实体

相关话题