arXiv上发表的一项新研究表明，大型语言模型正在加剧科学论文中“幻影参考文献”或幻觉引用的问题。这些伪造的引用无法指向真实的学术著作，却出现在ICLR、ICML、NeurIPS和USENIX Security等顶级会议的同行评审论文集中。研究表明，尽管总体发生率很低，但论文数量庞大意味着相当一部分论文包含这些错误，有些论文甚至出现多处幻觉。研究还指出，在ChatGPT发布后，此类错误有所增加，甚至出现在获奖论文中，这表明当前的同行评审流程不足以发现这些AI生成的错误信息。 AI
影响 凸显了AI生成科学文本的一个关键缺陷，可能破坏研究的完整性，并需要新的验证方法。
排序理由 研究论文，详细介绍了关于学术出版物中AI生成内容的创新发现。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- ChatGPT
- Conference on Neural Information Processing Systems
- International Conference on Learning Representations
- International Conference on Machine Learning
- RefChecker
- USENIX Security Symposium
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
