StateWise

StateWise 方法教会 LLM 跟踪不断变化的对话约束

研究人员开发了 StateWise，这是一种增强语言模型在多轮对话中管理不断变化的约束能力的新方法。与在约束的持久性和复发方面存在困难的现有模型不同，StateWise 对单个 LLM 进行微调，以维护其自身的可修改约束状态。该方法涉及训练模型将对话总结为其约束状态，并根据该状态进行响应，同时在通过精确往返检查的轨迹上进行自训练。StateWise 显著减少了复发并提高了对话成功率，甚至优于基于账本的预言机基线。