研究人员开发了TimeCapsule,一个拥有12亿参数的LLaMA风格模型,该模型仅在1800-1875年的维多利亚时代文本上进行训练。该模型旨在提供一个历史隔离的生成式档案,与GPT-2基线模型相比,在维多利亚散文上的困惑度降低了45.4%。虽然更大的当代模型困惑度更低,但它们缺乏时间隔离。TimeCapsule可以为现代概念生成历史性解释,人文学者发现很难区分其输出与真实的维多利亚写作。 AI
影响 这项研究探索了创建时间隔离LLM的方法,可能有助于改进历史分析和对过去本体论的理解。
排序理由 该集群描述了一篇关于在特定历史语料库上训练的新型LLM的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →