Parametric Memory Decoding

新框架改进了基于 LoRA 的参数化内存的零样本路由

研究人员推出了一种名为参数化内存解码 (PMD) 的新颖框架，旨在改进基于 LoRA 的外部参数化内存 (EPM) 的零样本路由。这种新方法旨在无需额外的训练或维护单独的路由组件即可实现路由。PMD 将路由过程重新构建为在外部参数化内存上解码激活，并且一种名为 PMDRouter 的特定实现已在各种任务的零样本路由设置中展示出强大的性能。