一位开发者创建了一种新的序列化协议,旨在减少多智能体大型语言模型 (LLM) 系统中的 token 使用量。该协议受 Protocol Buffers 启发,使用简短的、位置性的 ASCII 标识符,而不是冗长的自然语言或 JSON 来进行智能体间的消息传递。在 cl100k_base 分词器上的基准测试表明,它使用的 token 比 JSON 少 3.45 倍,由于分词器的偏见,对于非英语内容节省的 token 更多。该协议适用于结构化、可枚举的字段,并需要一个确定的 Python 实现来进行编码和解码。 AI
影响 通过显著减少 token 消耗,降低了多智能体 LLM 系统的运营成本。
排序理由 该项目描述了一个用于优化 LLM 使用的新软件工具/协议,而不是一个核心 AI 版本或研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →