hireEZ

大语言模型简历筛选面临日益增长的提示注入攻击

一篇新发表在arXiv上的研究详细介绍了对基于大语言模型（LLM）的简历筛选应用程序中提示注入攻击的首次系统性调查。研究人员分析了约20万份真实简历，开发了具有高精度的专业检测方法。他们的发现表明，约1%的简历包含隐藏的提示注入，并且在过去一到两年中其普遍性明显增加。值得注意的是，超过90%的注入提示不依赖于明确的指令，这凸显了在真实世界的大语言模型部署中存在一种复杂且日益增长的威胁。