实体 LLM05:2025

LLM05:2025

PulseAugur coverage of LLM05:2025 — every cluster mentioning LLM05:2025 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_238163 · Sep 6 · 05:22

AI代理的生成后执行模式带来关键安全风险

AI代理在没有外部验证的情况下执行LLM生成的代码，存在重大的安全风险，最近发生的一起事件就证明了这一点，当时一个代理由于未经审查的查询删除了生产数据。这种“生成后执行”模式被OWASP归类为LLM05:2025，它将LLM响应视为不可信的输入，类似于用户输入。研究表明，相当大比例的AI生成的代码包含漏洞，并非由于模型缺陷，而是因为安全性不是主要的训练目标。这种漏洞在shell、SQL和API执行链中普遍存在，自然语言提示成为新的注入点。