Session Boundaries

新方法实现跨 LLM 会话的上下文学习状态迁移

研究人员开发了一种新的方法，用于在不同会话之间迁移大型语言模型（LLM）的上下文学习（ICL）状态。这对于可能被另一个代理中断或继续的任务的应用至关重要，要求新会话保留前一个会话的相关信息。所提出的方法被表述为任务相关 ICL 状态的迁移，区分了对过去信息的精确恢复和目标分布的保留。它量化了在下游查询已知之前存储信息的成本，并提出了一个包含决策、任务证明统计数据和原始观察的三部分记录。