一位开发者创建了一个名为ThoughtDAG的开源原型,允许用户可视化和编辑提供给大型语言模型的上下文。与展示线性对话记录的传统对话界面不同,ThoughtDAG使用有向无环图(DAG),其中节点代表问答交换,边决定了哪些先前节点包含在下一个提示词中。这使得对上下文的分支、合并和修剪具有明确的控制,提供了模型记忆更透明和用户可控的表示。该工具优先考虑本地优先存储,并可以连接到Ollama等本地推理引擎或任何兼容OpenAI的端点。 AI
影响 提供了一种新颖的用户控制LLM记忆的方法,可能影响未来的对话式AI界面。
排序理由 这是一个用于管理LLM上下文的新开源工具发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →