研究人员开发了CAIMS,一个用于跨多个内容可寻址内存(CAM)阵列进行可扩展内存内搜索的新型框架。该方法解决了将局部搜索结果有效减少为全局top-k结果的挑战,这是现有设计中的一个限制。CAIMS结合了离线和在线参数选择,将局部二进制匹配转换为可比较的全局相似度分数,通过分层减少来提高效率。在3D NAND Flash模型上实现并应用于检索增强生成时,CAIMS在吞吐量和能效方面与CPU基线和先前加速器相比显示出显著改进,同时保持了准确性。 AI
影响 这项研究可以显著提高依赖于大规模相似性搜索的AI应用程序的效率和速度,例如检索增强生成。
排序理由 学术论文,详细介绍了用于硬件加速搜索的新技术框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →