PulseAugur
中
实时 11:31:30
实体 Fisher-Geometric

Fisher-Geometric

PulseAugur coverage of Fisher-Geometric — every cluster mentioning Fisher-Geometric across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_344262 ·

    FILO框架统一LLM的低秩适应,提高效率

    研究人员推出FILO,一个新颖的Fisher-几何框架,旨在统一和改进大型语言模型的低秩适应(LoRA)技术。FILO通过提供一种映射预处理方向而不直接求逆的方法,解决了因子空间更新中的奇异算子挑战。该框架对现有的LoRA优化器进行了分类,并提出了FILO-Adafactor,它使用Adafactor预处理器和闭式因子空间求解。这种新方法在包括GPT-2、Mistral-7B和Qwen2-7B在内的各种基准和模型上,均展示出与现有方法…