本文详细介绍了在 Python 中创建自定义强化学习 (RL) 环境，该环境旨在模拟 LLM 工程师在选择不同模型和决定是否重试查询时面临的决策过程。该环境模拟了模型成本、成功概率以及失败（尤其是在困难查询上）的信息性质等因素。它包括一个随机代理和一个优于随机代理的学习代理，突出了通过交互发现最优策略。 AI
影响 为优化 LLM 推理策略和资源分配提供了框架。
排序理由 文章描述了如何为 LLM 工程中的特定任务构建自定义工具（RL 环境）。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>An RL environment is a class with two methods. This page builds one for a decision an LLM engineer actually faces — which model to call, and whether to retry — runs a random agent against it, then a learner that beats the random agent, and ends with the checklist for when neit…