arXiv上的一篇新论文探讨了大型语言模型中“模型崩溃”的现象,即AI生成文本的递归训练会导致模型性能在几代后下降。该研究调查了市场集中度,特别是少数主导模型控制大部分训练数据的寡头垄断,是否会加剧这种崩溃。与预期相反,研究发现,在测试范围内,市场不平等的增加对模型崩溃的速度或目的地影响甚微。影响崩溃速度的主要因素是构成训练池的模型本身的脆弱性,而不是市场份额的分布。 AI
影响 表明目前的AI训练方法可能对市场集中度具有鲁棒性,但需要进一步研究以了解递归训练的长期影响。
排序理由 关于AI模型行为的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- 1--4B models
- arXiv
- model collapse
- oligopoly
- The Oligarch Barely Steers Model Collapse in Multi-Model Ecosystems
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →