Matthew Kosinski

新研究表明，提示注入仍是顶级大语言模型漏洞

arXiv上的一篇新论文详细介绍了针对开源大语言模型的提示注入攻击，发现Stablelm2、Mistral和Vicuña等模型极易受到攻击。该研究提出了攻击成功概率（ASP）指标来更好地评估这些攻击，其成功率可达90%左右。另外，一篇dev.to文章强调，根据OWASP的说法，提示注入仍然是LLM的首要漏洞，这是一个架构性问题，而不仅仅是提示工程问题。随着AI代理被赋予越来越多的现实世界工具访问权限，这种漏洞尤其令人担忧。