实体
OLMo-2-7B
OLMo-2-7B
PulseAugur coverage of OLMo-2-7B — every cluster mentioning OLMo-2-7B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
新的Decan指标使用语言模型衡量创意文本多样性
研究人员引入了一种名为Decan ($D_{Ca_n}$)的新指标来衡量创意文本输出的多样性。该方法利用语言模型单次前向传播的上下文学习,无需单独的嵌入模型或参考语料库。Decan在McDiv等基准测试中表现出有希望的结果,接近已建立的神经基线的性能,并成功检测到AI模型训练不同阶段的多样性损失。
-
大型语言模型在冲突监测中表现出显著偏见,未准备好部署
一篇新论文评估了几种大型语言模型在西非冲突监测任务中的适用性。研究发现,像Gemma 3 4B和Llama 3.2 3B这样的开放权重模型表现出显著偏见,将合法战斗错误地归类为平民暴力,并且对特定措辞很脆弱。虽然像AfroConfliBERT和AfroConfliLLAMA这样的领域适应模型表现出中立性有所提高,但它们仍然表现出基于行动者的选择性偏见,偏袒国家行动者而非非国家行动者。研究得出结论,当前模型尚未准备好在冲突监测中进行无监…
-
新研究揭示LLM前馈层中的关键损失通道
研究人员在大型语言模型(LLM)的前馈层中识别出一种特定的组织结构,称为“超级节点”(supernodes)和“光环”(halos)。这些超级节点代表了模型性能的关键通道的一小部分,却占有显著的损失敏感性。该研究分析了Llama-3.1-8B和Mistral-7B等模型,发现保留这些关键通道对于有效的模型剪枝和保持性能至关重要。