PulseAugur
实时 18:29:47
English(EN) TokenMizer: Giving LLMs a Memory That Doesn't Forget Between Sessions

TokenMizer 通过图数据库为大语言模型添加持久化记忆

TokenMizer 是一款旨在为大语言模型提供跨会话持久化记忆的新工具。与将更多历史记录塞入上下文窗口的传统方法不同,TokenMizer 充当一个代理,分析对话数据并将其存储在图数据库中。这种方法可以有效地回忆实体和关系,随着对话历史的增长,从而提高性能和成本效益。该工具包括一个用于调试的可视化浏览器,并且可以通过 CLI 或作为 MCP 兼容客户端(如 Cursor)的工具进行集成。 AI

影响 使大语言模型应用程序能够在会话之间保持上下文,从而可能改善用户体验并降低与大型上下文窗口相关的成本。

排序理由 该项目描述了一个与现有大语言模型 API 集成以提供增强功能(持久化记忆)的新软件工具。

在 dev.to — MCP tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

TokenMizer 通过图数据库为大语言模型添加持久化记忆

报道来源 [1]

  1. dev.to — MCP tag TIER_1 English(EN) · Shweta Mishra ·

    TokenMizer: Giving LLMs a Memory That Doesn't Forget Between Sessions

    <p><em>How a graph-memory proxy sits between your app and the OpenAI API, quietly remembering everything your LLM would otherwise lose.</em></p> <p>Every conversation with a large language model starts from zero. Close the tab, start a new session, and the model has no idea who y…