研究人员确定了文本嵌入的几何特性,这些特性决定了比较它们的最佳相似度度量。虽然余弦相似度是标准度量,但研究表明在某些条件下其他度量可以表现得更好。一项针对各种编码器和数据集的综合实证研究表明,如果编码器均匀分布其方差,则余弦相似度是最佳选择。然而,当方差集中到主导方向(各向异性)时,基于秩和 L1 型的度量比余弦有显著改进。 AI
影响 这项研究阐明了不同相似度度量对于文本嵌入最优化的条件,有可能改进 AI 系统中的检索和比较任务。
排序理由 学术论文,详细介绍了关于文本嵌入和相似度度量的新发现。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →