TokenMizer 是一款旨在为大语言模型提供跨会话持久化记忆的新工具。与将更多历史记录塞入上下文窗口的传统方法不同,TokenMizer 充当一个代理,分析对话数据并将其存储在图数据库中。这种方法可以有效地回忆实体和关系,随着对话历史的增长,从而提高性能和成本效益。该工具包括一个用于调试的可视化浏览器,并且可以通过 CLI 或作为 MCP 兼容客户端(如 Cursor)的工具进行集成。 AI
影响 使大语言模型应用程序能够在会话之间保持上下文,从而可能改善用户体验并降低与大型上下文窗口相关的成本。
排序理由 该项目描述了一个与现有大语言模型 API 集成以提供增强功能(持久化记忆)的新软件工具。
- Cursor
- D3.js
- File Intelligence
- Graph Memory Neural Network with Adaptive Message Passing Mechanism
- large language model
- MCP
- OpenAI
- SQLite
- TokenMizer
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →