Ajah，一个开源的 LLM 编排工具，已发布多项更新，以增强其面向企业团队的生产就绪性。这些改进包括使用 Redis 进行按功能限流以管理 API 预算，以及 SMTP 邮件提醒和 Slack 通知，用于成本和风险监控，还有针对 Redis、PostgreSQL 和 ClickHouse 等单个依赖项的详细健康检查。此外，现在还提供了一个预构建的 Grafana 仪表板，包含 18 个面板，用于全面监控流量、延迟、成本和安全指标。 AI
影响 增强了生产环境中 LLM 应用程序的运行稳定性和监控能力。
排序理由 LLM 编排工具的产品更新，并非核心模型发布或研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →