FIFO
PulseAugur coverage of FIFO — every cluster mentioning FIFO across labs, papers, and developer communities, ranked by signal.
-
LLM 缓存研究：LFU 优于其他驱逐策略，但有效性有限
arXiv 上发表的一项新研究评估了大型语言模型 (LLM) 缓存的各种驱逐策略，发现最不常用 (LFU) 策略在测试中表现最佳。该研究使用了一个名为 CLEVER 的框架，在不同的工作负载、缓存容量和编码器中比较了 FIFO、LRU 等策略。研究结果表明，虽然 LFU 是一个强有力的默认选项，但由于在典型操作点下答案可替代查询的百分比很低，驱逐策略的有效性受到限制，这表明在优化驱逐策略之前应优先考虑建立答案的有效性。
-
深度强化学习利用RFID数据优化智能工厂调度
本文介绍了一种新颖的动态车间生产调度框架，适用于利用RFID技术的智能工厂。该方法通过分析RFID收集的数据来估计生产不确定性并挖掘可行的生产序列，从而应对制造过程中的不确定性。采用了一种深度强化学习方法，特别是深度Q网络（DQN），来优化调度，在缩短完工时间方面优于FIFO和LIFO等传统方法。
-
Hugging Face 调度器将 GPU 利用率较 FIFO 提升 33%
Hugging Face 开发了一种新的约束感知 GPU 调度器，与传统的 FIFO（先进先出）调度器相比，显著提高了 GPU 利用率和产出。跨七个场景的基准测试表明，新调度器将 GPU 利用率提高了多达 33 个百分点，将优先级加权产出提高了多达 105%。其关键创新在于系统如何做出分配决策，优先考虑在哪个时间步由哪个 GPU 运行哪个作业，而不是简单地按到达顺序处理作业。
-
新分析探讨遗传编程符号回归的缓存策略
本文分析了遗传编程符号回归（GPSR）的缓存策略，以减少计算运行时。该研究探讨了各种缓存机制（包括LRU和FIFO）在合成和真实世界数据集上的内存-运行时权衡。它还提供了根据可用计算和内存资源配置这些策略的指南，建议复杂的缓存需要最小尺寸才能减少时间，而LRU和FIFO等简单方法可以显著减少适应度评估时间。
-
零售、服务和SaaS企业的记账策略各不相同
记账方式因商业模式的不同而有显著差异，零售、服务和SaaS公司都需要独特的方法。零售企业必须优先考虑库存跟踪和销售成本（COGS），以维持准确的毛利率。服务企业需要专注于劳动力成本、工资和有效管理应收账款，因为许多小企业都面临未付款发票的问题。SaaS公司面临收入确认的挑战，预付款必须在订阅期内按比例确认收入，因此月度经常性收入（MRR）和年度经常性收入（ARR）等指标对于反映真实的业务健康状况至关重要。
-
Phionyx 推出确定性 AI 运行时以加强治理
研究人员推出 Phionyx，这是一种新颖的 AI 运行时架构，旨在实现确定性行为和加强治理。该架构将 LLM 输出视为噪声测量，采用确定性状态演化方程来确保可复现的结果。Phionyx 集成了确定性评估内核、用于响应前控制的统一安全层以及具有影响加权缓存驱逐的语义内存系统。初步实验表明，与传统方法相比，计算开销显著降低，数据保留能力得到改善，并且在多次运行中均验证了确定性执行。
-
DriftSched 通过自适应调度提高 LLM 推理效率
研究人员开发了 DriftSched，一个旨在提高大型语言模型多租户 GPU 推理效率的框架。该系统通过使用自适应偏差校正将估计误差减少 40% 以上，解决了运行时令牌漂移（实际输出长度偏离初始估计）的挑战。实验表明，最短作业优先 (SJF) 调度策略与 DriftSched 结合使用可显著降低延迟，中位数端到端延迟下降约 42%。该框架还包括一个用于运行时反馈驱动漂移补偿的机制，以及一个用于评估共享 GPU 基础设施上 QoS 感知…