实体 KeyLM

KeyLM

PulseAugur coverage of KeyLM — every cluster mentioning KeyLM across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_67340 · Jun 2 · 17:41

开发者训练出拥有7500万参数的大型语言模型，性能超越更大模型

一位开发者从头开始训练了一个名为KeyLM的7500万参数语言模型，并使用了180亿个token进行预训练。KeyLM的指令调优版本在IFEval基准测试中表现优于SmolLM-135M-Instruct，尽管其参数量和训练数据量都显著少于后者。虽然KeyLM在指令遵循方面表现出色，但在其他基准测试中，其表现与其规模相符，并且在知识类任务中存在频繁幻觉的问题。