实体
Guigui Wang
Guigui Wang
PulseAugur coverage of Guigui Wang — every cluster mentioning Guigui Wang across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
NeuralBridge 放弃网关架构，转向本地 SDK
开发 AI 模型路由技术的公司 NeuralBridge 决定不构建中心化网关架构。这一决定源于 OneAPI 网关遭受供应链攻击以及随后的内部审查。该公司发现，网关模型会引入显著的网络延迟，抵消其核心产品的速度优势，并且还会产生与数据处理相关的巨额合规成本。相反，NeuralBridge 将专注于其现有优势：一个本地 SDK，为用户提供透明的模型降级和智能路由，并附带详细日志记录。
-
LLM API 测试显示 4% 失败率，GitHub 模型不稳定
最近对 30 个 LLM API 的测试显示失败率为 42.7%，尽管大多数是由于模型弃用或速率限制。当考虑到速率限制等基础设施问题时，实际失败率接近 4%，与行业报告一致。该研究强调了托管在 GitHub 上的模型存在严重的不稳定性，其中几个模型已被弃用或频繁达到速率限制，这使得在生产环境中使用需要有备用策略。NeuralBridge 的 SDK 证明了可恢复故障 100% 的自愈率，可能节省大量能源并减少碳排放。