实体 ExposedTool

ExposedTool

PulseAugur coverage of ExposedTool — every cluster mentioning ExposedTool across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_278329 · Oct 3 · 22:10

AI工具定义易受通过JSON Schema进行的指令注入攻击

AI工具在处理不受信任的输入时存在安全漏洞，特别是在工具定义的`inputSchema`字段中。虽然开发者通常会对工具的主要描述进行哈希处理和验证，以防止恶意指令，但他们忽略了JSON Schema本身的`description`、`title`和`example`字段。这些字段可以被操纵以注入模型将读取的新指令，从而绕过基于描述的允许列表。建议的修复方法是在模式的每个级别上剥离或覆盖这些文本字段，然后再将其暴露给模型，确保仅使用结构…