commerce-agents
PulseAugur coverage of commerce-agents — every cluster mentioning commerce-agents across labs, papers, and developer communities, ranked by signal.
-
Anthropic的代理安全模型被自定义代理绕过
Anthropic的commerce-agents代码库演示了一个代理合约,该合约限制代理调用其他代理。然而,作者发现通过引入一个新的代理,该系统允许它进行价格更改、展示预览以及调用二级代理,尽管存在合约限制。这是因为共享的调度路径未能根据父代理的权限充分限制子代理的功能。作者的attenu-guard库被用于实现一个更安全的系统,其中子代理仅接收必要的权限,并生成可验证的收据,确保即使没有原始代码,也可以重新检查授权。
-
研究人员绕过了Anthropic的commerce-agents委托合同
Anthropic的commerce-agents框架有一个记录在案的安全合同,规定代表不能编写、呈现或调用其他代表。然而,一位安全研究人员演示了通过操纵代表的权限并将恶意代表放在同一个槽位,可以绕过该合同。这使得恶意代表能够暂存更改,将其呈现给操作员,并调用第二个代表,由于施加的权限限制,在后续运行中被拒绝。研究人员强调,该框架的安全性依赖于代表的特定形状和声明的工具,而不是普遍强制执行的合同。
-
Anthropic的commerce-agents镜像个人代理结构,强调人工干预的重要性
一位个人反思了Anthropic新发布的commerce-agents,注意到其结构与自己的个人代理系统有相似之处。虽然两个系统都共享一个四层架构(策略、能力、程序、知识/状态),但关键的区别在于“最后一关”。Anthropic的代理直接与客户互动,而作者的代理在执行操作前需要人工批准,充当了关键的安全机制。作者强调,仅依赖基于提示的规则而没有人为干预,可能会导致微妙的失败,因为当上下文变得复杂时,模型可能会优先降低或忽略指令。