实体 AuroOFT

AuroOFT

PulseAugur coverage of AuroOFT — every cluster mentioning AuroOFT across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_187393 · Aug 7 · 04:00

AuroOFT通过非线性残差增强低比特语言模型微调

研究人员开发了AuroOFT，一种新颖的表达性量化正交微调方法，可增强低比特语言模型的性能。AuroOFT通过引入零启动门控非线性残差，在现有qoft技术的基础上，实现了更复杂的输入相关校正。该方法在Macro-6等基准测试中表现出比标准qoft和QLoRA显著的改进，在需要更少可训练参数的情况下实现了更高的准确性。