CSJianYang

LoopCoder-v2：发布了具有高效测试时计算的 7B PLT 代码模型

LoopCoder-v2，一个拥有 70 亿参数的代码生成模型，已基于 Parallel Loop Transformer (PLT) 架构发布。该模型在 18 万亿个混合文本和代码的 token 上进行了训练，并针对代码生成、多语言代码理解和代理软件工程等任务进行了指令微调。LoopCoder-v2 的研究表明，对于 PLT 模型，有限数量的循环（特别是两个）在性能提升和计算成本之间提供了最佳的权衡，增加更多循环的收益会递减。