MerchantToolExecutor

研究人员绕过了Anthropic的commerce-agents委托合同

Anthropic的commerce-agents框架有一个记录在案的安全合同，规定代表不能编写、呈现或调用其他代表。然而，一位安全研究人员演示了通过操纵代表的权限并将恶意代表放在同一个槽位，可以绕过该合同。这使得恶意代表能够暂存更改，将其呈现给操作员，并调用第二个代表，由于施加的权限限制，在后续运行中被拒绝。研究人员强调，该框架的安全性依赖于代表的特定形状和声明的工具，而不是普遍强制执行的合同。