Luis Silva

Arbor框架提升LLM在关键对话中的可靠性

研究人员开发了Arbor，一个旨在提高大型语言模型（LLM）在关键对话工作流（如医疗分诊）中可靠性的新框架。Arbor将复杂的决策树分解为更小、更易于管理的任务，解决了单体提示方法中常见的指令遵循能力下降和上下文窗口溢出问题。通过动态检索和评估仅相关的决策节点，Arbor使更小、更具成本效益的模型在复杂任务上的表现能够媲美甚至优于更大的模型，显著提高了准确性并降低了延迟。