两篇新研究论文探讨了大语言模型在持续学习方面的进展。第一篇论文介绍了一个多阶段框架，用于检测多语言社交媒体中被重新启用的污蔑性言论，该框架利用 XLM-RoBERTa 作为基础模型，并采用数据增强和特定语言的阈值优化来提高准确性。第二篇论文名为 Octopus，提出了一种无历史梯度正交化方法，使多模态大语言模型能够在不发生灾难性遗忘的情况下顺序获取新知识，并在 UCIT 基准测试上取得了最先进的性能。 AI
影响 大语言模型在持续学习方面的进步可能带来更具适应性和效率的模型，这些模型能够在不遗忘先前知识的情况下学习新信息。
排序理由 两篇在 arXiv 上发表的学术论文，详细介绍了大语言模型持续学习的新方法。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
This paper presents a multi-stage framework for detecting reclaimed slurs in multilingual social media discourse. It addresses the challenge of identifying reclamatory versus non-reclamatory usage of LGBTQ+-related slurs across English, Spanish, and Italian tweets. The framework …
Continual learning in multimodal large language models (MLLMs) aims to sequentially acquire knowledge while mitigating catastrophic forgetting, yet existing methods face inherent limitations: architecture-based approaches incur additional computational overhead and often generali…