PulseAugur
中
实时 08:32:47
实体 Small-World Induced Fine-Tuning

Small-World Induced Fine-Tuning

PulseAugur coverage of Small-World Induced Fine-Tuning — every cluster mentioning Small-World Induced Fine-Tuning across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_338480 ·

    新的SWIFT框架增强了大语言模型的稀疏微调

    研究人员推出了一种新颖的稀疏微调框架——小世界诱导微调(SWIFT),旨在提高适应大语言模型的效率和效果。SWIFT解决了传统稀疏微调中可能出现的“信息孤岛”问题,在这种情况下,有限的连通性可能导致特征维度孤立并限制任务特定的交互。通过将块对角稀疏更新与确定性散布排列相结合,SWIFT在无需额外可训练参数的情况下,确保了更好的特征混合和跨组通信。在常识推理、自然语言生成和图像分类等各种任务上的实验表明,SWIFT的表现优于现有的参数高…