一位开发者创建了一个监控工具,用于追踪不同API提供商的开源权重LLM定价差异。该工具每五分钟运行一次,从OpenRouter抓取数据,以每100万个token的成本进行比较,假设输入与输出token的比例为3:1。它识别出比中位数便宜很多的提供商,并标记出最便宜和最昂贵的选项之间量化水平的潜在差异。该项目的发现通过Telegram频道分享,开发者正在寻求对该方法的反馈。 AI
影响 突显了访问开源权重LLM的显著成本差异,可能引导用户选择更经济的API提供商。
排序理由 该条目描述了一个开发者构建的用于监控LLM API定价的工具。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →