实体
Ji et al.
Ji et al.
PulseAugur coverage of Ji et al. — every cluster mentioning Ji et al. across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
大型语言模型因训练和知识压缩而自信地产生幻觉
大型语言模型自信地呈现不准确的信息，这是由于其训练和知识压缩的固有方面造成的。训练优先考虑流畅性而非真实性，模型即使不确定也会被激励去猜测而不是弃权。知识以统计关联而非离散事实的形式存储，导致不太常见的信息出错。虽然将答案与来源联系起来或降低采样温度等方法有帮助，但核心问题仍然是当前基准测试中奖励猜测的激励结构。
-
AI安全倡导者呼吁通过精心策划的预训练数据来塑造模型个性
最近的一篇Less Wrong帖子认为，前沿AI开发者应该积极过滤和策划用于模型预训练的数据。作者建议移除对抗性AI叙事，转而用积极的AI-人类互动来填充数据。这种方法旨在降低模型内化对AI个性负面联想的风险，而这种内化在训练后对齐阶段很难纠正。
-
发现双层优化新下界
研究人员为双层优化问题建立了一个新的下界，具体为 $\Omega(\kappa_y^{5/2} \epsilon^{-2})$。这一发现揭示了双层问题和 minimax 问题在条件数依赖性方面存在的差距。研究还将这些下界扩展到各种设置，包括高阶光滑函数、随机预言机和凸目标。