sample-prompt-correction-memory

AWS 示例教 LLM 从更正中学习，降低成本

来自 AWS 的一项新的开源示例展示了一种通过学习人类更正来改进 LLM 文档提取的方法。这种方法将更正存储为持久内存，从而可以重复使用它们，并防止重复出现错误，而无需重新训练或重新部署模型。该系统采用分层方法，首先使用确定性规则处理常见错误，然后使用置信度门控进行基于云的 LLM 提取，最后采用少样本示例进行自我修复以处理复杂情况，最终随着时间的推移降低成本并提高准确性。