PulseAugur
实时 19:27:38
English(EN) I built a 103B-token Usenet corpus (1980–2013) — pre-web, human-only, zero AI contamination. Got strong traction on r/ML, thought this community would find it useful.

用户创建1030亿token Usenet语料库用于AI训练

一位用户编译了一个包含1030亿token的Usenet语料库,时间跨度从1980年到2013年,并强调其对于训练AI模型的价值,因为它是在互联网时代之前、纯人类生成且零AI污染的内容。该语料库被划分为计算、科学和娱乐等各种层级,提供了一个独特的数据集,不包含现代网络痕迹和AI生成文本。基于该数据样本微调的Gemma 4模型已展现出其潜力,样本可供下载,完整语料库也可授权使用。 AI

影响 提供了一个独特、无AI污染的数据集用于模型微调,有可能提高其原始的类人写作能力。

排序理由 用户创建的数据集发布用于AI训练。 [lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/OwnerByDane ·

    我构建了一个包含1030亿个token的Usenet语料库(1980-2013)——前互联网时代,纯人类数据,零AI污染。在r/ML上获得了强烈关注,认为这个社区会觉得它很有用。

    <!-- SC_OFF --><div class="md"><p>Posted this to <a href="/r/MachineLearning">r/MachineLearning</a> a couple weeks ago (30K views, 100+ upvotes) and have been meaning to share it here where the fine-tuning angle is more directly relevant.</p> <p>I spent years building and process…