一篇新论文引入了梯度数据市场(GDM)的概念,这是一个参与者为学习任务贡献查询特定梯度更新的系统,消费者发布这些任务并为贡献付费。研究强调了一个重大问题:现有协议优先考虑模型级别的鲁棒性,这无意中导致了逆向选择。这意味着诚实的、高方差的贡献常常被拒绝为异常值,而具有策略性的同质恶意贡献则被接受和奖励,即使整体模型性能保持稳定。该研究提出了一个模块化基准测试框架,用于分别评估机制完整性和模型完整性,揭示了随着诚实卖家退出市场,这些选择性故障会持续存在并随着时间的推移而恶化。 AI
影响 突出了去中心化人工智能训练市场中潜在的漏洞,影响了模型更新的激励和安全性。
排序理由 学术论文,引入了去中心化人工智能训练的新概念和框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →