Gemma-3-12B-IT
PulseAugur coverage of Gemma-3-12B-IT — every cluster mentioning Gemma-3-12B-IT across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新方法无需重新训练即可提升多语言大语言模型性能
研究人员开发了一种新颖的推理时方法，以提高多语言大语言模型在不同语言上的性能。这种称为基于SAE的引导的技术，利用预训练的稀疏自动编码器，在无需任何额外训练或大量多语言数据集的情况下，识别并增强模型隐藏状态中的特定语言特征。使用Gemma-3-12B-it模型进行的实验证明了显著的准确性提升，包括在XCOPA基准测试上提高了10.9个百分点。
-
AI风险规避可跨越巨大利益进行泛化，但尚不可靠
研究人员开发了一个新的基准测试RiskAverseOOD，用于测试语言模型如何将风险规避从低风险情景泛化到高风险情景。使用Qwen3、Gemma-3和Llama-3等模型进行各种方法的实验表明，在低风险下学到的风险规避可以在巨大的风险差异中部分泛化。虽然当前模型表现出改进的风险规避行为，但它们尚未达到足够一致的可靠性，不足以作为防止潜在AI错位的安全措施。
-
连贯的上下文可将LLM切换到不同内部模式，绕过安全过滤器
一位独立研究人员发现了一种现象，即连贯的上下文文本可以将大型语言模型（LLM）切换到不同的内部运行模式，即使模型的最终输出看起来正常并通过了安全过滤器。这种模型隐藏状态和内部处理的变化发生在最终输出生成之前，表明像RLHF和输出分类器这样的当前对齐方法可能不足够，因为它们只检查表面输出。该研究人员已发布了他们的发现和代码，并正在寻求AI安全和可解释性社区的批判性反馈，以验证和扩展这项工作。
-
利用新数据集为低资源非洲语言开发人工智能导师
研究人员开发了AFRILANGTUTOR，这是一种针对低资源非洲语言的学习新方法。该系统利用了一个名为AFRILANGDICT的新数据集，该数据集包含近20万个非洲语言-英语词典条目，用于生成大量的问答对来训练人工智能导师。由此产生的AFRILANGEDU数据集包含超过78,000个多轮对话示例，用于在十种非洲语言上微调Llama-3-8B-IT和Gemma-3-12B-IT模型。评估表明，这些微调模型显著优于其基础版本，其中监督微调…