Neon DB

开发团队用 Hindsight 取代原始聊天记录，用于 LLM 代理

两个开发团队详细介绍了他们构建用于客户支持和销售智能的 LLM 代理的经验，都遇到了传统聊天记录管理方面的重大问题。他们发现，简单地追加原始聊天记录会导致延迟增加、令牌成本更高以及上下文窗口污染，导致代理混淆信息或丢失关键细节。两个团队都成功过渡到使用 Hindsight 的结构化内存架构，该架构将长期语义内存分离到用于个人和全局解析的独立、可查询的库中，从而提高了代理的性能和可靠性。