Mason Delan

AI代理需要护栏：结构化输出和持久化内存解决LLM不可靠问题

两位开发者描述了两种不同的方法来缓解AI代理中大型语言模型（LLM）的不可靠性。一位开发者实现了一个管道，强制LLM输出结构化数据，根据错误成本使用分级模型，并在最终确定任何输出之前包含一个起草和代码检查阶段。另一位开发者创建了一个名为Selvedge的工具，它充当AI代理的本地内存，存储决策背后的推理，以防止代理重复过去的错误或引入已撤销的更改，从而保留会话结束后会丢失的关键上下文。