PulseAugur
实时 17:48:13
实体 Matryoshka

Matryoshka

PulseAugur coverage of Matryoshka — every cluster mentioning Matryoshka across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. RESEARCH · CL_129261 ·

    TESSERA v2 研究揭示地球观测模型的最佳扩展方法

    研究人员对像素级地球观测基础模型进行了大规模扩展研究,在 1,024 个 NVIDIA GH200 超级芯片上进行了 395 次训练运行。研究发现,预训练损失是下游性能的糟糕预测指标,这表明将计算资源集中在更大的编码器和更多数据上,而不是更大的投影仪上,更为有效。该团队训练了一系列模型,包括拥有 2100 万个参数的 TESSERA v2-1B-M,其性能优于更大规模的开源和专有模型,并通过 Matryoshka 表示法实现了高效服务。

  2. RESEARCH · CL_105028 ·

    KaLM-Reranker-V1:高效文档重排模型发布

    研究人员推出 KaLM-Reranker-V1,这是一种新颖的重排模型,专为大规模检索系统的效率而设计。该模型使用具有 Matryoshka 嵌入池化和交叉注意力的编码器-解码器架构来解耦查询和段落的计算。KaLM-Reranker-V1 有三种尺寸:Nano(0.27B 参数)、Small(1B 参数)和 Large(4B 参数)。在 BEIR、MIRACL 和 LMEB 等基准测试上的实验表明,KaLM-Reranker-V1 取…