实体
Nils Palumbo
Nils Palumbo
PulseAugur coverage of Nils Palumbo — every cluster mentioning Nils Palumbo across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
基于 Datalog 的新系统为 Agentic AI 安全执行正式策略
研究人员开发了一种新颖的方法，通过在运行时执行正式策略来增强 Agentic 计算系统的安全性。该方法允许用户使用 Datalog 定义策略，然后在代理尝试执行操作时对其进行监控和强制执行。该系统构建事件图，以根据当前系统状态和历史事件确定操作是否会违反指定策略，并阻止任何违规行为。这项工作旨在创建可证明安全可靠的 Agentic 系统。
-
AI代理需要系统安全，而不仅仅是模型鲁棒性
一篇新论文认为，保护AI代理需要系统层面的方法，将AI模型视为一个不可信的组件。研究人员提议将既定的系统安全原则应用于代理设计，并声称仅关注模型鲁棒性是不够的。该论文分析了十一个现实世界的代理攻击，展示了系统级安全如何能够阻止它们，并概述了剩余的研究挑战。