PulseAugur
中
实时 15:05:00
English(EN) D-NOVA: In-Storage Retrieval Accelerator via Dual-Bound 3D NAND-Optimized Similarity Search with Vector Adaptation

D-NOVA 通过存储内向量搜索加速RAG · 跟踪到2个来源

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员开发了D-NOVA，这是一种新颖的存储内检索加速器，旨在显著提高检索增强生成（RAG）系统的性能和能效。通过将搜索功能直接嵌入NAND闪存并引入一种称为双边界紧密相似性感知（DTS）的新距离度量，D-NOVA旨在克服传统RAG架构相关的延迟和能耗瓶颈。这种方法允许直接在内存中进行向量搜索，与基于CPU的方法和现有的存储内加速器相比，可以显著提高速度并节省电力。 AI

影响 这种存储内加速可以显著降低RAG系统的计算成本和延迟，使LLM推理更有效、更易于访问。

排序理由 该集群描述了一篇研究论文，其中详细介绍了一种用于加速AI检索任务的新型软硬件协同设计的系统。

在 arXiv cs.IR (Information Retrieval) 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

D-NOVA 通过存储内向量搜索加速RAG · 跟踪到2个来源

报道来源 [2]

  1. arXiv cs.CL TIER_1 English(EN) · Chang Eun Song, Sumukh Pinge, Tianqi Zhang, Sung Eun Kim, Tajana S. Rosing, Mingu Kang ·

    D-NOVA：通过双边界3D NAND优化相似性搜索和向量自适应的存储内检索加速器

    arXiv:2607.17538v1 Announce Type: cross Abstract: Retrieval-Augmented Generation (RAG) enhances the factual grounding of large language model (LLM) inference by retrieving relevant information from external knowledge bases. However, its dense vector retrieval introduces significa…

  2. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Mingu Kang ·

    D-NOVA：通过双边界3D NAND优化相似性搜索和向量自适应的存储内检索加速器

    Retrieval-Augmented Generation (RAG) enhances the factual grounding of large language model (LLM) inference by retrieving relevant information from external knowledge bases. However, its dense vector retrieval introduces significant latency and energy overhead, becoming the prima…

相关实体

相关话题