PulseAugur
中
实时 19:51:36

[email protected]

PulseAugur coverage of [email protected] — every cluster mentioning [email protected] across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. RESEARCH · CL_236985 ·

    LLM Agent 面临从提示注入到多 Agent 威胁的扩展安全风险

    本文分析了与 LLM Agent 相关的安全风险,强调其增强的能力导致比传统 LLM 更大的攻击面。关键漏洞包括提示注入、RAG 系统中的数据投毒以及多 Agent 协作固有的风险。分析还涉及 Agent 系统中出现的作弊和告密等新兴行为,并提出了诸如指令隔离、输入净化、权限分层和治理框架等防御策略。

  2. TOOL · CL_198340 ·

    AI代理易受工具调用注入攻击,提出运行时强制执行方案

    本文讨论了使用工具的AI代理相关的安全风险,特别是“工具调用注入”漏洞。文章概述了三种主要的攻击模式:工具选择操纵、参数越界和权限过于宽泛。文章认为传统的静态代码扫描不足以发现这些运行时问题,并提出在调用点设置验证层来强制执行工具选择、参数验证和权限检查。该强制执行机制设计得非常快速,内部基准测试显示P99延迟低于25微秒。