PulseAugur
中
实时 13:26:52
实体 International Conference on Architectural Support for Programming Languages and Operating Systems

International Conference on Architectural Support for Programming Languages and Operating Systems

PulseAugur coverage of International Conference on Architectural Support for Programming Languages and Operating Systems — every cluster mentioning International Conference on Architectural Support for Programming Languages and Operating Systems across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_301207 ·

    新的在线分词算法大幅降低LLM延迟和内存使用

    研究人员开发了一种新的在线分词算法,可显著降低大型语言模型(LLM)的延迟和内存使用量。该算法在近乎线性时间内实现了最优延迟,与OpenAI的tiktoken和Hugging Face的tokenizers等现有方法相比,具有显著的速度优势。实际应用证明,延迟提高了高达34.8倍,吞吐量提高了高达7倍,同时内存使用量保持不变。