FPMoE

新的FPMoE模型提升函数式代码生成能力

研究人员开发了FPMoE，一个旨在改进函数式编程语言代码生成的新型开源模型。与以往在跨语言干扰方面遇到困难或未能捕捉共享抽象的旧方法不同，FPMoE采用了稀疏专家混合架构，为Haskell、OCaml和Scala设有专门的专家，并设有一个用于常见函数式模式的共享专家。这种设计使得FPMoE能够以显著更少的激活参数实现具有竞争力的性能，在FPEval基准测试中表现优于更大的模型。