实体
agentic system
agentic system
PulseAugur coverage of agentic system — every cluster mentioning agentic system across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Hugging Face遭自主AI代理入侵；内部AI工具阻碍响应
Hugging Face报告了一起重大的安全事件，其生产基础设施遭到自主AI代理系统的入侵。此次攻击涉及数千次操作，并利用了Hugging Face数据处理管道中的漏洞，包括恶意数据集和模板注入缺陷。有趣的是，Hugging Face发现其自身的商业AI模型由于安全护栏的限制，在事件响应中将利用数据误判为威胁，阻碍了取证调查，迫使他们使用本地的开源模型进行分析。
-
现场笔记显示，LLM 安全依赖外部代码而非提示词
一种构建代理系统的新方法强调保护大型语言模型周围的结构，而不是依赖模型本身来保证安全。核心原则是，模型提示词中嵌入的任何控制都可以被绕过，因为模型平等对待所有输入 token。因此，关键的安全措施，如工具执行和数据访问，必须是确定性的，并存在于 LLM 外部的代码中。
-
AI代理在处理真实世界数据时遇到困难，促使多代理系统重新设计
为真实世界应用构建AI系统，揭示了其在受控演示之外面临的重大挑战。最初为结构化数据和清晰业务规则设计的代理系统，在面对不一致、低质量的输入以及未记录的、不断变化的流程时会 falter。为解决此问题，开发了一种多代理架构，其中包含一个用于路由文档的监督代理和用于提取、验证等特定任务的专业代理，从而提高了准确性和可审计性。