Unbounded Labs 开发了 Bart,一个拥有 28.2 亿参数的大语言模型,其训练数据为 1931 年前的 201 亿个英文 token。该项目自筹资金约 800 美元,旨在探索大语言模型是否能复制历史人物的科学推理能力。Bart 在新创建的 Vintage CORE 基准测试中取得了同等规模下的最佳表现,并展示了高效的训练能力,在 H100 GPU 上完成了为期五天的最终训练。 AI
影响 此次发布探索了大语言模型进行历史科学推理的潜力,并引入了评估此类能力的新基准。
排序理由 该集群描述了一个具有特定训练语料库和基准的新大语言模型的发布,符合研究类别。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →