Locust
PulseAugur coverage of Locust — every cluster mentioning Locust across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
LLM API中继:如何超越99%的正常运行时间声明来测试稳定性
一篇技术博文详细介绍了如何严格测试大型语言模型(LLM)API中继的稳定性和性能,超越简单的正常运行时间声明。作者描述了遇到的问题,即中继在面临上游故障、超时或崩溃时仍错误地报告成功(HTTP 200),导致数据被静默截断或出错。该博文概述了一个三阶段的测试系统,从基本测试进展到一个复杂的流状态机,该状态机监控跨多个区域的延迟、可靠性和流质量。
-
战争机器:E-Day 展示虚幻引擎 5 的 MegaLights 和 RTX Mega Geometry
标志性系列的新作《战争机器:E-Day》已使用虚幻引擎 5 从头开始重建。该游戏展示了 UE5 的 MegaLights 技术,能够实时处理数百个动态光线追踪光源,通过逼真的光照和阴影显著增强视觉体验。游戏还采用了 Nvidia 的 RTX Mega Geometry,进一步提升了对植被等复杂网格及其相关阴影的渲染效果。已对 43 款显卡进行了性能测试,以确定流畅游戏体验所需的硬件配置。
-
蝗虫启发的神经网络增强碰撞感知
研究人员开发了一种新的生物可信神经网络,该网络受蝗虫视觉系统启发,用于检测逼近的物体和潜在的碰撞。该模型模仿了蝗虫复眼的眼小梗组织,并使用具有泄漏整合发放神经元动力学的群体投票机制,摒弃了传统的 Sigmoid 函数。在合成、实验室和真实驾驶场景中的实验表明,该模型在困难的视觉条件下增强了鲁棒性,同时保持了计算效率和生物准确性。
-
嵌入端点的负载测试需要批处理大小分析,而不仅仅是RPS
本文讨论了负载测试嵌入端点的细微差别,强调每秒请求数(RPS)是一个不足够的指标。文章解释说,批处理大小会显著影响吞吐量和延迟,因为固定的每个请求开销会分摊到更多的项目上。作者建议测试不同的批处理大小,以找到延迟最小化的最佳点,然后再因大型有效载荷大小而增加延迟,并建议使用Locust等工具来模拟这些不同的批处理请求。
-
LLM 代理的负载测试需要计时完整循环,而不仅仅是 API 调用
本文详细介绍了如何有效地对 LLM 代理的并发工具调用请求进行负载测试,强调需要衡量整个代理循环,而不仅仅是单个 API 调用。文章解释说,代理的单个用户可见请求涉及多次模型交互和工具执行,未能准确计时此循环会导致误导性的性能指标。作者提供了一个 Python Locustfile 示例,演示了如何计时循环的每个组件,包括模型调用和工具执行,以获得对延迟和资源消耗的真实理解。
-
北京公园树木因地下水位上涨而枯死
北京金盏店公园数千棵树木因地下水位上升导致长期积水而死亡。该公园是一个蓄洪湿地,经历了异常潮湿的夏季,导致包括新种植的树木和一些已有数十年历史的树木在内的各种树木死亡。当局正在评估损失,并为可能存活的树木采取排水和促进生长等养护措施。