CacheAttack

新框架CacheAttack利用LLM语义缓存漏洞

一篇新的研究论文介绍了一个名为CacheAttack的框架，该框架旨在利用大型语言模型（LLM）所使用的语义缓存系统的漏洞。这些系统由AWS和Microsoft等主要提供商使用，它们将语义嵌入向量作为缓存键以提高效率。然而，该论文认为，这些优化用于相似性的键的本质，与其对碰撞抵抗的安全要求存在内在冲突，使其容易受到攻击。CacheAttack展示了劫持LLM响应和诱导LLM代理恶意行为的命中率为86%，这对安全关键任务和金融应用具有影响。