PulseAugur
中
实时 12:25:15
实体 RuiLong Jiang

RuiLong Jiang

PulseAugur coverage of RuiLong Jiang — every cluster mentioning RuiLong Jiang across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_336450 ·

    Google Cloud Dataflow系统提升流式分析中LLM推理性能

    研究人员在Google Cloud Dataflow上开发了一个新系统，旨在提高流式数据分析的效率，特别是针对大型语言模型（LLM）的推理。该系统利用跨异构工作池的协同设计自动扩缩容和前缀感知批处理。该实现已显示，在包含LLM的流式管道中吞吐量提高了1.5倍至2倍，同时保持了相似的延迟并实现了显著的资源节省。