实体
block diffusion
block diffusion
PulseAugur coverage of block diffusion — every cluster mentioning block diffusion across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
块扩散模型在纵向电子健康记录分析方面显示出潜力
研究人员探索了块扩散(BD)作为自回归(AR)模型在纵向电子健康记录(EHR)预测的替代方案。虽然AR模型在零样本预测方面表现出色,但它们难以处理时间上聚集的临床事件。在MIMIC-IV数据集上测试的BD模型显示了质量和效率之间的权衡,较小的块配置提供了更快的推理速度(B=8配置大约快1.43倍),同时保持了显著的预测性能。尽管BD的生成回滚通常低于AR模型,但其表示对于临床预测任务具有可比的信息量,表明BD是EHR建模的一种计算上吸引人的方法。
-
块扩散模型通过Mamba架构实现恒定大小的缓存
一篇新的研究论文介绍了一种用于块扩散语言模型的新型缓存方法,该方法能够实现恒定大小的内存使用,而与上下文长度无关。这种方法,尤其是在基于Mamba的架构中效果显著,与传统的基于注意力的缓存相比,显著降低了延迟和内存需求。研究表明,这种恒定大小的缓存允许模型在更长的上下文长度下保持检索能力,而不会牺牲质量,从而在效率和吞吐量方面提供了实质性的改进。