Jason Haddix

AI安全专家：提示注入是固有的架构缺陷

AI安全研究员Jason Haddix认为，提示注入是当前基于Transformer的LLM中固有的架构问题，而不是一个可以完全修复的bug。他解释说，指令和数据之间的界限模糊，使得完全缓解不太可能，即使是乐观的行业人士也只提出部分解决方案。Haddix概述了一种分层防御策略，强调虽然旧的注入方法对高级模型可能不太有效，但新的攻击结合了各种技术，需要规避层来绕过安全措施。