Pedro H. Barcha Correia

具有持久记忆的LLM易受跨会话攻击

一篇新的研究论文强调了使用持久记忆功能的大型语言模型（LLM）存在的重大安全漏洞。这些被称为记忆注入的漏洞允许攻击者在多个会话中破坏LLM，导致持久性操纵。研究表明，像ChatGPT Instant 5.3、Claude Sonnet 4.6和Gemini 3 Flash等领先模型都容易受到这些攻击，从而传播虚假信息和有害内容。虽然存在一些防御措施，但研究表明，在评估的服务中，近一半的关键缓解措施并未得到实施。