Pingora
PulseAugur coverage of Pingora — every cluster mentioning Pingora across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Modal 推出 Endpoint Candidates 以优化推理
Modal 推出了 Endpoint Candidates，这是一项旨在帮助用户优化推理端点的新功能。该工具允许对专用端点进行分阶段的替代部署，以在质量、延迟、吞吐量和成本等指标上评估其性能。用户无需构建自己的镜像和部署基础设施，即可测试新的模型检查点或不同的模型，并可以直接从仪表板将成功的候选者推广到生产环境。Modal 还增强了其基于 Pingora 的代理，以更有效地管理流量镜像，防止缓慢的候选者影响生产性能。
-
Tensorlake 通过从 L7 转发切换到 L4 优化沙盒入口
Tensorlake 重新设计了其沙盒入口路径，将一个数据平面跃点从完整的 L7 反向代理迁移到一个利用内核 TLS (kTLS) 和 splice(2) 的 L4 转发器。这一改变主要是为了在认证通道上优化字节传输，而不是应用层协议理解。工程团队独立测量了每一项改变，发现大部分 CPU 节省来自于移除 L7 解析器，而 kTLS 和 splice(2) 提供了较小的额外吞吐量增益。
-
Modal 推出超低延迟服务器，适用于高性能应用
Modal 推出了名为 Modal Servers 的新功能，旨在为需要高性能的应用（如交互式代理的 LLM 推理）提供超低延迟服务器托管。这项新产品利用了一个由流式边缘代理、智能无状态代理和计算负载均衡器组成的路由层，该层构建在 Pingora、Envoy 和 Spanner 等技术之上。与提供类似 TCP 的内置可靠性功能的 Modal Web Functions 不同，Modal Servers 针对速度进行了优化，其运行方式更…
-
OpenAI Codex 助力发现 HTTP/2 服务器内存漏洞
安全研究人员利用 OpenAI 的 Codex 发现了一个名为 HTTP/2 Bomb 的漏洞。这种攻击方法利用服务器内存，虽然 Nginx、Apache 和 Envoy 等一些流行的 Web 服务器已有修复方案，但 IIS 和 Pingora 等其他服务器仍未打补丁。