gemma3:12b

AI 代理后台任务消耗 6.03 亿 token；开发者实施路由

一位 AI 开发者发现，由于后台任务静默运行，他们的 Hermes Agent 在七天内消耗了大量 token，总计 6.03 亿个。问题追溯到 kimi-k2.6 模型。开发者实施了显式路由来优化 token 使用，将不同任务分配给更轻量级或更合适的模型，如 rnj-1:8b、gemma3:12b、deepseek-v4-flash 和 kimi-k2.5，从而将成本降低了高达 125 倍。