PulseAugur
中
实时 05:05:04
实体 LlamaGuard 4

LlamaGuard 4

PulseAugur coverage of LlamaGuard 4 — every cluster mentioning LlamaGuard 4 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_294443 ·

    新的基准测试ReasoningShield改进了大型语言模型推理轨迹的安全检测

    研究人员开发了ReasoningShield,这是一个新的基准测试和模型套件,旨在改进大型推理模型(LRMs)中推理轨迹的安全检测。现有的审核工具难以处理思维链(CoT)推理,表现出显著的性能下降。ReasoningShield通过提供一个包含9.2K个带注释的CoT对的数据集和轻量级模型来解决这个问题,这些模型达到了91.8%的F1分数,优于LlamaGuard-4和GPT-4o等当前领先的工具。

  2. RESEARCH · CL_109527 ·

    研究发现,编码器分类器可提供经济高效的LLM安全评估

    一篇新的研究论文探讨了编码器分类器(特别是来自ModernBERT家族的分类器)作为评估大型语言模型输出安全性的LLM基础评估器的经济高效替代方案的有效性。该研究将这些编码器分类器与各种LLM评估器和基于规则的方法在不同的对抗性攻击技术下进行了基准测试。研究结果表明,编码器分类器在识别有害内容方面可以提供可比的性能,同时具有更低的延迟和成本,为LLM安全评估提供了实用指导。