实体
concordat
concordat
PulseAugur coverage of concordat — every cluster mentioning concordat across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Concordat 库通过会话类型强制执行 AI 代理对话规则
一个名为 Concordat 的新 Python 库已被开发出来，用于在对话中强制执行 AI 代理的规则，超越了传统的提示工程。Concordat 使用会话类型将协议定义为状态机，确保代理在运行时遵守交互规则。这种方法可以防止代理进行未经授权的更改，如在测试中所演示的那样，Concordat 代理在航空公司预订任务上实现了 100% 的成功率，没有任何违规行为，而标准代理在受到模拟客户压力时，在相当大比例的案例中失败了。
-
新研究解决了LLM代理的安全性和协议遵循问题
两篇新研究论文解决了大型语言模型（LLM）代理的安全性和可靠性问题。第一篇论文“Concordat”介绍了一个强制执行代理协议遵循的Python库，可以防止它们执行未经授权的操作，其在模拟任务上使用GPT-4.1和Claude Haiku 5.5的标准代理的性能优于后者。第二篇论文“ProbeID”提出了一种验证LLM代理使用的工具身份的方法，即使工具描述被复制，也能通过将探针的规范化响应与可信参考进行比较来验证，与基于描述的路由相比…