Emanuele de Rossi

Rhesis 表示，LLM 开发需要双向连接才能进行有效测试

开发 LLM 应用程序不仅仅是观察其输出；它需要双向连接才能进行有效测试。虽然现有的可观测性工具提供了应用程序的数据单向流出，但真正的测试需要一个外部系统在提示发送给用户之前发送提示并评估响应。Rhesis 提供了其协作层解决方案，使工程师和领域专家能够创建测试用例，通过 Endpoints 对 LLM 应用程序运行这些测试用例，并对结果进行评分，从而促进自动化和可重复的测试。