FakeChatModel

LLM 客户端测试：手写模拟对象优于 Mocking 库

本文讨论了在软件开发中测试大型语言模型 (LLM) 客户端的一种策略，即创建一个手写模拟对象，而不是依赖 Mocking 库。作者认为，对于有状态的依赖项（如 LLM 客户端），这些依赖项会被反复调用并在调用之间管理状态，自定义模拟实现比通用 Mocking 框架更具可读性和可维护性。提出的 `FakeChatModel` 类允许开发人员编写特定的响应、模拟错误和管理调用历史记录，从而能够更可靠地测试重试逻辑、代理循环和令牌限制。