一位名为TheOneWhoWill的用户预训练了一个名为Shibai-700M-Base的7亿参数语言模型。该模型在180亿token上进行了训练，并针对Python和Wikitext进行了优化，计划进一步在基于docstring的Python代码上进行训练。该模型设计用于下一个token预测而非聊天，并且被认为比GPT-2有显著提升。 AI
影响 此次发布为Python代码生成等特定任务提供了一个新的、可能更高效的模型，丰富了开源LLM的多样化格局。
排序理由 该集群描述了一位独立开发者预训练和发布了一个新的、小规模的语言模型，这属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
