HAProxy
PulseAugur coverage of HAProxy — every cluster mentioning HAProxy across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
负载均衡器难以满足 LLM 服务需求，'llm-d' 提供解决方案
本文深入探讨了在容器化环境（如 Kubernetes）中使用负载均衡器为大型语言模型 (LLM) 提供服务所面临的挑战。文章强调，传统的负载均衡解决方案，如 nginx、Envoy 和 HAProxy，在处理 LLM 推理的独特需求时可能会失败，而 LLM 推理通常涉及长时间运行、有状态的连接。文章介绍了 'llm-d' 作为解决这些特定 MLOps 挑战的潜在方案。
-
LLM改进HAProxy故障隔离，但成本增加
一篇新的研究论文探讨了使用大型语言模型（LLM）来改进HAProxy（一种流行的负载均衡器）的后端故障隔离。研究发现，拥有约30亿活跃参数的LLM可以通过智能地将流量从降级服务器上路由开，从而显著减少客户端感知的5xx错误。然而，这种能力也带来了更高的代币花费和由于剩余服务器上的集中负载而导致的尾部延迟。研究表明，最有效的方法是使用一个有能力的LLM以非推理模式运行，并由确定性护栏保护。
-
eBPF 套接字转向扩展了用于 HTTP/3 连接迁移的 QUIC 入口
本文详细介绍了如何扩展 QUIC 入口以支持 HTTP/3 连接迁移，这是客户端更改 IP 地址时出现的挑战。传统的 UDP 代理依赖于客户端 IP 和端口的哈希，当客户端 IP 更改时会失败，导致数据包丢失。解决方案是使用 eBPF（扩展 Berkeley 数据包过滤器）在内核级别转向 QUIC 连接，使其即使在客户端网络路径发生变化时也能保持连接。这种方法利用了 Linux 内核功能，并被提出作为对简单 UDP 代理部署的修复。
-
Linus Torvalds 抨击 AI 错误报告压垮 Linux 安全列表
由于 AI 工具生成的重复漏洞报告激增，Linus Torvalds 宣布 Linux 内核的私有安全邮件列表已无法管理。他表示，AI 发现的错误本质上是公开的，应直接报告给维护者，而不是通过浪费大家时间的私有列表。该项目已更新其文档以反映这一点，要求 AI 辅助的错误报告作为公开披露处理，并鼓励研究人员在提交发现的同时贡献补丁。
-
AI摘要错误地建议了不存在的HAProxy配置选项
一个AI摘要错误地建议，对于HAProxy配置来说，存在一个不存在的“replace-body”选项。用户指出，只有“replace-header”是一个有效选项，这突显了AI在特定技术配置方面的知识库存在缺陷。