PulseAugur
中
实时 06:13:40
实体 maximum inner-product search

maximum inner-product search

PulseAugur coverage of maximum inner-product search — every cluster mentioning maximum inner-product search across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
2
90 天内 5
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 4
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 5 条
  1. RESEARCH · CL_337476 ·

    RAG 系统专注于检索改进和可靠性测试 · 跟踪 8 个来源

    研究人员正在探索改进检索增强生成 (RAG) 系统的先进技术,重点是增强通常是瓶颈的检索组件。Apple Inc. 开发了一种使用小型神经网络学习查询到键匹配的方法,以实现更快、更高效的检索。同时,研究正在调查 RAG 系统的可靠性,特别是在查询相关文档被投毒的对抗性条件下,这突出表明检索失败,而不是 LLM 的局限性,经常是性能不佳的原因。评估 RAG 系统需要仔细考虑指标、问题集以及检索和生成之间的交互,结合了密集和稀疏检索方法的…

  2. RESEARCH · CL_338555 ·

    AI注意力机制在新研究中面临复杂性挑战

    两篇新研究论文探讨了AI模型中注意力机制的复杂性。第一篇论文详细介绍了一种softmax注意力算法,该算法实现了长上下文的近线性时间复杂度,改进了现有界限,并匹配了理论上的最大内积限制。第二篇论文表明,融合多个注意力头可能需要指数级增加“原子”(键值条目)的数量才能精确表示输出,这凸显了潜在的可扩展性问题。

  3. RESEARCH · CL_229301 ·

    新的RSLM方法将ANN搜索嵌入大小减少到1-4位

    研究人员推出了一种新颖的无训练向量量化方法RSLM,旨在增强近似最近邻(ANN)搜索系统。该技术将嵌入压缩到每维低至1-4位,显著降低了内存成本和带宽需求。RSLM通过编码残差向量和校正重构向量的L2范数来实现这一点,提供了比现有方法更好的质量与大小权衡。该实现利用了快速Walsh-Hadamard变换和AVX SIMD优化来实现高性能。

  4. TOOL · CL_122424 ·

    Apple ML Research 提出使用神经网络的摊销 MIPS

    Apple Machine Learning Research 提出了一种新的最大内积搜索(MIPS)方法,称为摊销 MIPS。该方法利用神经网络,特别是 SupportNet 和 KeyNet,直接预测 MIPS 解决方案,从而降低了从固定键数据库中已知分布提取的查询的计算成本。在 BEIR 基准测试上的实验表明,在考虑计算工作量的情况下,这些学习模型可以显著提高 IVF 匹配率。

  5. TOOL · CL_95938 ·

    新的摊销MIPS方法使用神经网络加速搜索

    研究人员开发了一种名为摊销最大内积搜索(MIPS)的新方法,该方法利用神经网络直接预测MIPS解决方案。该方法训练网络充当固定向量数据库的“支持函数”,从而能够更快地识别给定查询的最佳匹配向量。所提出的模型SupportNet和KeyNet在文档嵌入的BEIR基准测试中显示出效率的显著提高,在考虑计算工作量时优于传统方法。