PulseAugur
中
实时 23:59:46
实体 context-free grammar

context-free grammar

PulseAugur coverage of context-free grammar — every cluster mentioning context-free grammar across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_58665 ·

    新技术压缩令牌空间以加速 LLM 约束解码

    研究人员开发了 CFGzip，这是一种新颖的离线技术，旨在显著加速大型语言模型 (LLM) 中的约束解码。该方法压缩了令牌搜索空间，大大降低了确保 LLM 输出符合指定无上下文语法 (CFG) 的相关开销。实验表明，CFGzip 可将延迟降低多达两个数量级，使总约束生成时间提高 7.5 倍，从而使复杂的 CFG 解码能够大规模实现。