Unbounded Labs

Unbounded Labs 发布 Bart，一个在 1931 年前文本上训练的复古大语言模型

Unbounded Labs 开发了 Bart，这是一个拥有 28.2 亿参数的大语言模型，在 1931 年前的 201 亿个英文 token 上进行了训练。该项目耗资约 800 美元，耗时三个月，旨在探索大语言模型是否能够复制历史人物的科学推理能力。Bart 在新创建的 Vintage CORE 基准测试中达到了同等规模下的最佳性能，并已开源其数据集、方法论和训练代码。