Edge0-120B

Edge0 发布可在笔记本电脑上运行的 145B 开源模型

Edge0 发布了 Edge0-145B，这是一款拥有 1450 亿参数的稀疏专家混合模型，专为在高内存笔记本电脑上运行而设计。该模型需要大约 29GB 的峰值内存，并且其大部分参数在推理过程中不活跃。Edge0 声称该模型在各种基准测试中的性能可与云端模型相媲美，尽管这些结果来自内部测试，尚未得到独立验证。该模型采用开源许可，允许对其输出进行研究和商业用途。