AI模型的上下文窗口不应被误认为是持久化内存,而更像是CPU缓存的临时执行表面。这个临时空间保存了单次推理所需的信息,并在完成后消失,除非被明确保存。真正的内存系统包括活动工作内存(RAM)、持久化内存(文件系统)、推理账本(Git历史记录)以及用于可验证性的写入端托管。仅仅增加上下文窗口大小并不能解决“散文税”或“上下文税”等问题,即组织不当或冗长的输入会降低模型的召回率;结构化、更小的上下文可能更有效。持久化内存资产是在推理后精心策划的,侧重于决策、证据、更正、出处和推理历史,以构建未来的能力。 AI
影响 阐明了AI上下文窗口的功能限制,强调需要独立的内存架构来实现持久化知识。
排序理由 文章使用类比来解释关于AI模型的某个技术概念。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →