llm-cost-guard

开发者构建开源工具以防止大语言模型 API 成本超支

一位开发者创建了一个名为 llm-cost-guard 的开源工具，以防止对大型语言模型 API 的调用产生意外的高昂成本。该工具充当大语言模型客户端的包装器，允许用户设置每日、每月或每次请求的支出限额。它会拦截 API 调用，跟踪 token 使用量和相关成本，并在接近或超出限额时停止执行或发出警报，从而防止像开发者自己使用 Claude API 时的那种昂贵超支。