PulseAugur
中
实时 21:36:33
English(EN) Bigger Is Safer: Provable Robustness in In-Context Learning Scales with Capacity

新研究将大型语言模型容量与对抗性迁移下的安全性提高联系起来

作者 PulseAugur 编辑部 · [1 个来源] ·

一篇新研究论文介绍了一个用于大型语言模型（特别是Transformer）上下文学习（ICL）的鲁棒元学习框架。该框架通过分析模型容量、上下文示例数量与最大安全扰动半径之间的关系，为对抗性分布迁移提供了理论保证。研究结果表明，在这些迁移下，更大的模型本质上更安全，鲁棒性与模型容量的平方根成正比。 AI

影响 形式化了模型规模与分布迁移下的安全性之间的关系，可能指导未来的模型开发。

排序理由 学术论文，详细介绍了关于大型语言模型鲁棒性的理论发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新研究将大型语言模型容量与对抗性迁移下的安全性提高联系起来

报道来源 [1]

  1. arXiv stat.ML TIER_1 English(EN) · Di Zhang, Ningxu Zhang, Zimeng Liu ·

    更大更安全：可证明的上下文学习鲁棒性随容量扩展

    arXiv:2602.17743v2 Announce Type: replace-cross Abstract: In-context learning (ICL) allows large language models to adapt to new tasks from a few examples without updating their parameters. Existing theories explain ICL by assuming the test task distribution matches pretraining -…

相关实体

相关话题