研究人员已发现，让自回归生成式AI模型能够恰当地归因于其训练数据存在重大挑战。一篇新论文探讨了反事实信用归因（CCA）的概念，这是确保模型承认其来源的一项技术条件。研究表明，CCA不能自回归地组合，这意味着满足CCA的下一词预测模型可能整体上不满足CCA。此外，尝试为现有模型添加信用归因功能面临巨大障碍，可能需要与输出长度成指数关系查询复杂度。 AI
影响 新研究突显了让生成模型对其数据来源保持透明的基本困难，这可能影响未来的AI发展和版权。
排序理由 这是一篇发表在arXiv上的研究论文，详细介绍了特定AI安全概念的理论障碍。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
