English(EN) My AI System Logged 35,669 LLM Calls. It Still Couldn’t Tell Me What They Cost.

AI治理系统缺乏关键成本追踪

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-13 09:45

一位开发者在构建一个名为CORE的AI治理系统时，发现了一个重大的盲点：该系统记录了有关LLM调用的详细信息，包括token数量和模型使用情况，但未能追踪或报告相关成本。这种成本归属的缺失阻碍了系统做出明智的运营决策，因为成本是模型路由和整体治理的关键因素。开发者强调，对于自主AI系统而言，成本应该是决策过程的组成部分，而不仅仅是外部账单元数据。 AI

影响强调了AI治理系统需要集成成本追踪功能，以支持明智的决策和运营效率。

排序理由文章描述了特定AI辅助软件开发治理系统中的一个功能性问题，而不是一个新的模型发布、研究突破或重大行业事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Dariusz Newecki · 2026-06-13 09:45

My AI System Logged 35,669 LLM Calls. It Still Couldn’t Tell Me What They Cost.

CORE had telemetry. That was the comforting part. Every LLM exchange was being logged. Prompt tokens. Completion tokens. Duration. Cognitive role. Model snapshot. Timestamp. Privacy level. Enough information to reconstruct what the system had asked, which model h…

报道来源 [1]

My AI System Logged 35,669 LLM Calls. It Still Couldn’t Tell Me What They Cost.

相关实体

相关话题