一位软件工程师解释说，大型语言模型（LLM）代理的复杂性不在于模型本身，而在于管理消息历史和协调API调用的代码。LLM代理的核心是一个反复调用无状态LLM API的循环，大量的工程工作集中在内存、编排、安全和评估方面，而不是模型本身。将LLM调用视为不可靠的远程服务，包括重试和成本核算，比仅专注于提示工程更具成效。 AI
影响 强调有效的LLM代理开发依赖于强大的软件工程实践来管理状态和可靠性，而不仅仅是模型能力。
排序理由 该条目是来自一位软件工程师关于LLM代理技术实现的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>The first time I called the OpenAI API with bare <code>curl</code>, I stared at the JSON response for about thirty seconds. <em>That's it?</em> A POST request, a <code>messages</code> array, back comes a string of text. LangChain wraps it in seven or eight layers and the tutor…