实体 ForkAttention

ForkAttention

PulseAugur coverage of ForkAttention — every cluster mentioning ForkAttention across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_336218 · Nov 2 · 05:00

Flide引擎通过精确状态分叉加速LLM代理决策推理

研究人员推出Flide，这是一种新颖的推理引擎，旨在加速LLM代理系统中的决策过程。Flide将决策请求的逻辑结构与其物理执行分离，从而通过精确算术实现更快的处理。该方法利用GPU驻留索引和预先记录的执行图来导航依赖关系，与vLLM和SGLang等现有引擎相比，速度得到了显著提升。