实体
Jason Haddix
Jason Haddix
PulseAugur coverage of Jason Haddix — every cluster mentioning Jason Haddix across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
AI安全专家：提示注入是固有的架构缺陷
AI安全研究员Jason Haddix认为，提示注入是当前基于Transformer的LLM中固有的架构问题，而不是一个可以完全修复的bug。他解释说，指令和数据之间的界限模糊，使得完全缓解不太可能，即使是乐观的行业人士也只提出部分解决方案。Haddix概述了一种分层防御策略，强调虽然旧的注入方法对高级模型可能不太有效，但新的攻击结合了各种技术，需要规避层来绕过安全措施。
-
AI 代理擅长常见漏洞，人类创造力对新颖漏洞利用至关重要
网络安全专家 Jason Haddix 讨论了自主代理在进攻性安全领域的现状和未来。他指出，虽然 AI 代理在识别常见漏洞方面越来越熟练，但它们在需要人类创造力和经验的新颖或未记录的漏洞利用技术方面仍然存在困难。Haddix 设想了一个未来，AI 代理将处理常规漏洞扫描，让人类测试人员能够专注于更复杂和更具创造性的安全挑战。他还强调了逆向工程工具的重大进展，这些工具现在正在集成自然语言界面以协助漏洞利用生成。