实体
nanoVLM
nanoVLM
PulseAugur coverage of nanoVLM — every cluster mentioning nanoVLM across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI训练效率：梯度优化方法基准测试
一篇新的研究论文在受限硬件上对五种梯度优化器和三种内存策略进行了AI训练基准测试。研究发现，梯度累积是在不同架构上降低训练损失最有效的策略，而梯度检查点的性能高度依赖于架构。与普遍假设相反，Adam并非普遍优越，在某些情况下Adadelta和SGD的表现优于它。该研究为选择优化器和梯度策略以提高AI模型训练和部署的资源效率提供了实用指导。
-
通过KV缓存编码教程解释LLM推理加速
KV缓存是在生产环境中优化大型语言模型（LLM）推理速度的关键技术。它通过存储和重用中间的键（key）和值（value）计算来工作，从而避免在文本生成过程中进行冗余计算。虽然它会增加内存需求和代码复杂性，但显著的推理速度提升通常使其成为部署LLM的值得进行的权衡。