实体
The Agent Loop
The Agent Loop
PulseAugur coverage of The Agent Loop — every cluster mentioning The Agent Loop across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
当前法规下,AI代理的支出责任由用户承担
当AI代理使用用户的财务凭证进行购买时,损失通常由用户承担。美国的E法规和Visa的零责任政策等法规旨在处理未经授权的交易,而非用户授权的交易,即使AI超出了其授权范围。这使得用户容易受到伤害,因为当前规则不为AI发起的支出提供辩护。主要的补救措施是在卡上设置严格的预付限额,或撤销银行对代理的授权。
-
研究发现:大型语言模型评估成本可达基线工作负载的10倍
评估大型语言模型(LLM)的成本常常被忽视,这会产生一笔“影子账单”,超出直接推理成本。这种隐藏的开销源于证明可靠性所需的多次部署、对输出进行的大量裁判评估以及数据保留。有供应商报告称,一位数据主管表示,LLM作为裁判的评估成本是基线代理工作负载的十倍,但这只是一个轶事而非基准。τ-bench论文表明,要达到高可靠性,例如GPT-4o的8次通过成功率,需要进行大量部署,仅模拟和代理执行每项任务的成本就约为200美元。
-
AI代理缺乏按次调用预算检查,存在成本风险
文章讨论了当前AI代理在预算检查方面的局限性,特别是在OpenAI的Agents SDK及类似框架中。文章指出,虽然OpenAI有月度支出限额,但并未按每次调用强制执行,这可能导致代理随意产生巨额费用。作者指出了四种潜在的预算检查位置:调用前预留、调用后账本、重试预算和子代理信封,并指出当前的协议在这些方面往往缺乏强有力的实施。文章强调,许多提供商的“支出限额”并非即时生效,需要手动干预,从而在调用和执行之间产生了差距。