一项技术分析揭示了使用 Base64 编码的图像作为 AI 模型参数所带来的显著 token 成本。作者测量发现,一个 1 MB 的 Base64 字符串会消耗近一百万个 token,远远超过许多模型的输出限制。之所以产生这种成本,是因为 AI 模型本身必须逐个 token 地生成 Base64 字符串,而不是客户端简单地上传图像文件。此外,模型只能在 Base64 字符串已存在于其上下文中时才能重现它们,即使如此,字符生成中的错误也可能导致图像损坏。 AI
影响 由于 token 数量高,将 Base64 图像用作直接 AI 模型输入成本过高,限制了实际应用。
排序理由 对 AI 模型输入 token 成本的分析。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →