Vector Database

RAG系统中的文本嵌入可能不像设想的那么安全

一篇题为《文本嵌入揭示的信息与文本一样多》的最新论文探讨了在检索增强生成（RAG）系统中使用文本嵌入的安全影响。该研究质疑嵌入向量（文本的数值表示）是否可以被反向解析回其原始文本形式。鉴于向量数据库的兴起，这尤其重要，向量数据库存储这些嵌入，并被越来越多地用于整合AI到其运营中的公司。该研究调查了如果这些嵌入向量被泄露，敏感信息暴露的可能性，挑战了它们是安全的数据存储和通信格式的观念。