实体
CWE-1427
CWE-1427
PulseAugur coverage of CWE-1427 — every cluster mentioning CWE-1427 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
开源工具应对LLM提示注入攻击
发布了两个开源项目来对抗针对大型语言模型的提示注入攻击。第一个项目由BordairAPI开发，采用两阶段检测系统，结合了快速的正则表达式网关和量化的DeBERTa-v3模型，并包含来自游戏的真实攻击数据。第二个项目adi-shield专注于标记不可信数据源，并在代理执行指令前检测注入的指令，而不依赖于LLM本身。
-
提示注入和缺失的身份验证创建了免费的LLM滥用向量
一位安全研究员发现了一个AI翻译API中的漏洞，该漏洞允许对底层大型语言模型进行免费、未经身份验证的滥用。该漏洞源于API端点上缺失的身份验证和提示注入的组合，其中用户输入在没有适当清理的情况下直接被纳入模型的提示中。这使得攻击者能够绕过翻译任务并向LLM发出任意命令，从而导致“钱包拒绝服务”场景，服务提供商因此承担了未经授权使用的成本。