Tokenless，一家获得 Y Combinator 支持的新兴初创公司，推出了一项旨在降低 AI 推理成本的服务。该工具可作为 API 调用的即插即用替代品，智能地将请求路由到最具成本效益的模型，同时保持质量。通过实时分析模型性能，Tokenless 取消冗余的模型执行，有可能将推理费用减半。该服务提供兼容 OpenAI 和 Anthropic 的端点，由来自 Google DeepMind、普林斯顿大学和加州大学伯克利分校的研究人员构建。 AI
影响 通过优化模型选择，可以显著降低 AI 应用的运营成本。
排序理由 这是一个与现有 AI 模型集成的工具的产品发布，而不是来自前沿实验室的核心 AI 发布。
在 HN — claude cli stories 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
