实体
Hang Gao
Hang Gao
PulseAugur coverage of Hang Gao — every cluster mentioning Hang Gao across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新论文将语义漂移与长文本嵌入崩溃联系起来
一篇新发表在arXiv上的论文指出，导致长文本嵌入崩溃的主要原因在于池化操作和语义漂移，而非仅文本长度或注意力机制。该研究建立了一个理论框架，证明了上下文池化如何固有地导致向量的语义稀释和空间集中。实验表明，语义漂移是嵌入集中的主要预测因子，而各向异性仅在由显著语义漂移引起时才有害，这为长上下文检索中的挑战提供了新的解释。
-
新方法增强向量检索的相似性和多样性
研究人员提出了两种新方法来提高密集向量检索的效率和有效性，这是现代机器学习系统的核心组成部分。第一种方法 VRSD 通过提出一种新颖的优化问题和一种无参数启发式方法，解决了平衡搜索结果中的相似性和多样性这一挑战，并展示了优于现有基线方法的性能。第二种方法 LEMUR 将多向量检索的延迟问题作为监督学习问题来处理，并将推理简化为单向量搜索，从而实现了显著的加速。