实体 JACTUS

JACTUS

PulseAugur coverage of JACTUS — every cluster mentioning JACTUS across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_16287 · May 4 · 17:05

先压缩再适配？不，通过任务感知子空间联合进行

研究人员推出了一种名为 JACTUS 的新框架，该框架将参数高效微调 (PEFT) 和低秩压缩统一起来，用于适配大型预训练模型。与顺序方法不同，JACTUS 通过形成子空间的正交联合并执行投影低秩近似来联合优化压缩和适配。这种方法旨在防止压缩子空间与下游目标之间的失配，从而实现更高效、更鲁棒的模型调整。