一篇新发表在arXiv上的研究详细介绍了对基于大语言模型（LLM）的简历筛选应用程序中提示注入攻击的首次系统性调查。研究人员分析了约20万份真实简历，开发了具有高精度的专业检测方法。他们的发现表明，约1%的简历包含隐藏的提示注入，并且在过去一到两年中其普遍性明显增加。值得注意的是，超过90%的注入提示不依赖于明确的指令，这凸显了在真实世界的大语言模型部署中存在一种复杂且日益增长的威胁。 AI
影响 凸显了基于大语言模型的应用程序面临的重大且日益增长的安全风险，尤其是在招聘等敏感领域。
排序理由 学术论文，详细介绍了特定大语言模型应用程序中的一种新颖安全漏洞。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
