The AI Engineer's Library

LLM 成本归因：使用 OpenTelemetry 为代理追踪打标签

一位开发者概述了一种方法，通过利用 OpenTelemetry 追踪来归因与生成式人工智能代理相关的成本。该方法涉及在代理执行追踪中的 span 上添加特定属性，如代理名称、版本、功能、步骤和使用的模型。这种详细的标记实现了细粒度的成本分析，超越了人工智能服务提供商通常提供的汇总账单。通过实施这些约定，开发者可以识别哪些特定的代理操作对成本贡献最大，将账单从一个谜团转变为一个可查询的数据集。