gen_ai.*

OpenTelemetry 标准化 LLM 追踪，但需警惕遥测膨胀

OpenTelemetry 的 gen_ai.* 语义约定为追踪 LLM 应用提供了一种标准化方法，但未经精心策划的仪器化可能导致过多的数据量，压垮可观察性管道并增加成本。需要捕获的关键信号包括提示版本、token 数量和工具参数，而应避免过度记录完整的提示、完成或单个流式 token。AI 网关，例如 Maxim AI 开发的 Bifröst，可以通过在网络层标准化数据收集来帮助管理此遥测，确保在不降低下游系统性能的情况下捕获关键信号。