heyvaldemar

AI代理需要预算控制，而不仅仅是访问检查

本文讨论了AI代理“支出”控制的关键问题，认为当前的访问控制机制不足。文章强调，虽然代理可能被授权访问工具和数据，但如果管理不当，其使用可能会导致巨额成本。作者建议将“支出”视为一种授权，类似于访问权限，用户为代理的会话分配特定预算。该预算应在支出点强制执行，例如模型网关，并应同时考虑输入和潜在输出的token数量，以防止超支。提出的解决方案包括为每次会话生成代理凭证，并实施token使用硬性上限，类似于信用卡消费的预授权，以确保严格遵守预算。