Ali Spittel

不可信的AI代理程序需要新的安全模型，将重点转移到访问控制上

向客户控制的AI代理程序开放产品会带来重大的安全挑战，因为代理程序的模型和行为是未知的且不可信的。传统的安全措施假定对模型有控制权，因此变得无效。相反，重点必须转移到控制代理程序可以访问和执行的内容上，实施细粒度的权限、关键操作的人工批准以及对所有活动（包括被拒绝的请求）的详细日志记录。这种方法，以软件公司Tunelo的GarageManager产品为例，需要定义特定的操作、数据边界和可审计的记录，而这些记录独立于代理程序的底层模型。