实体
FLAN-T5-base
FLAN-T5-base
PulseAugur coverage of FLAN-T5-base — every cluster mentioning FLAN-T5-base across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
FeatCal 方法提高了合并后 AI 模型的性能
研究人员开发了 FeatCal，一种用于校准合并后 AI 模型以提高其性能的新颖方法。该技术通过分析和减少特征漂移来解决合并后模型中常见的性能差距，特征漂移发生在合并模型产生的特征与原始专家模型产生的特征不同时。FeatCal 通过逐层校准过程实现这一点，该过程可有效更新模型权重，在 CLIP 和 GLUE 等基准测试中优于 Surgery 和 ProbSurgery 等现有方法。
-
研究人员从头开始在单GPU上训练2.1亿参数文本到图像DiT模型
一位研究人员从头开始训练了一个拥有2.1亿参数的文本到图像扩散Transformer模型，并在单台GPU上花费了3.5天完成。该实验的关键发现包括：学习到的空注意力槽成为交叉注意力质量的主要汇聚点；流匹配损失作为健康信号而非直接质量指标；训练时间步长偏移比简单地将训练步数加倍更具影响力。