Mastodon 已为其大型语言模型 (LLM) 成本实施了服务器端遥测,并使用 PostHog 进行数据收集。这个新系统跟踪每次生成的 token 计数、延迟和工作区上下文,从而能够进行准确的成本监控,同时确保用户提示和媒体保持私密。 AI
影响 能够更准确地管理特定应用程序内 AI 模型使用的成本。
排序理由 这是特定平台的基础设施更新,而不是核心 AI 发布或重大的行业事件。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →