PulseAugur
中
实时 14:38:10
实体 openai-node

openai-node

PulseAugur coverage of openai-node — every cluster mentioning openai-node across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_306842 ·

    Rust LLM代理修复bug,将200个请求合并为一次调用

    一个名为tokio-prompt-orchestrator的开源Rust LLM代理发布了2.0.3版本,修复了性能测试中发现的几个bug。该代理设计用于应用程序和LLM API之间,展示了将200个相同的请求合并为一次付费调用的能力,并在模拟故障期间将对失败提供商的调用从89次减少到5次。还修复了一个重大bug,即并发请求被顺序处理,导致20个提示的延迟从1.5秒增加到30.2秒;新版本处理这些请求需要3.0秒,或在增加并发的情况下…