PulseAugur
中
实时 12:18:28
实体 XSTest

XSTest

PulseAugur coverage of XSTest — every cluster mentioning XSTest across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
2
90 天内 10
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 10
层级分布 · 90 天
主题
情绪 · 30 天

2 天有情绪数据

最近 · 第 1/1 页 · 共 10 条
  1. TOOL · CL_360157 ·

    研究发现,“词语剔除”的有效性因大语言模型而异

    一篇新研究论文调查了“词语剔除”(一种用于移除开放权重大型语言模型拒绝回答的技术)的有效性。该研究测试了任意秩剔除(ARA)和基于方向的剔除等方法在包括Qwen3.8、Gemma 4、Olmo 3.1和Mistral Small 3.2在内的模型上的表现,发现移除拒绝回答的有效性并未普遍随着新模型版本的出现而变得更难。这些方法的有效性因具体的模型对、使用的剔除技术以及评估数据集的不同而有显著差异,表明模型对这类编辑的抵抗力并非简单的线性进展。

  2. TOOL · CL_324372 ·

    尽管表示形式发生变化,线性探针仍可有效迁移到蒸馏语言模型

    一篇新的研究论文探讨了线性探针(一种用于检测语言模型中恶意请求的分类器)的可迁移性。研究发现,即使模型内部表示发生显著旋转,在基础模型上训练的探针也可以有效地重新用于蒸馏或指令微调的后续模型。这种可重用性在不同的模型和评估基准中都得到了观察,这表明线性探针提供了一种经济高效的审计模型的方法,而无需为每个新版本进行重新训练。

  3. RESEARCH · CL_239380 ·

    新的LLM安全方法改进拒绝边界,减少过度拒绝

    研究人员开发了一个名为边界感知自蒸馏的新框架,以提高大型语言模型的安全性和可用性。该方法侧重于创建狭窄的拒绝边界,使模型能够拒绝有害内容,同时仍能响应同一主题内的合法查询。使用Qwen3_8B模型的实验表明,这种方法显著提高了目标拒绝率并减少了不安全响应,尽管仔细的数据构成对于避免过度拒绝良性提示至关重要。

  4. RESEARCH · CL_230863 ·

    BenchMIRT方法揭示LLM基准测试的真实测量内容 · 追踪2个来源

    研究人员推出了一种名为BenchMIRT的新方法论,旨在通过分析单个提示来剖析大型语言模型(LLM)在基准测试上的表现。该方法受项目反应理论(IRT)启发,旨在区分构成模型在特定任务得分的各种潜在能力,例如安全性和通用推理能力。通过将多维IRT(MIRT)应用于100个LLM在16个基准测试上的数据,BenchMIRT揭示,一些旨在衡量社会偏见的基准测试(如BBQ)比以往认为的更接近通用推理能力。

  5. TOOL · CL_226812 ·

    新的LMSM框架通过模块化设计增强LLM安全性

    研究人员推出了一种名为语言模型安全模块(LMSM)的新型框架,旨在增强大型语言模型(LLM)部署的安全性。LMSM借鉴了Linux安全模块的理念,将证据校准、策略评估和输出门控等过程分离开来。这种模块化方法允许灵活且可解释地执行安全规则,而无需完全重建请求处理系统。在Qwen3-4B模型上的测试表明,LMSM在XSTest上仅略微增加了误拒绝率的情况下,显著降低了HarmBench上的攻击成功率,同时保持了高吞吐量。

  6. TOOL · CL_206119 ·

    PL-Guard架构将大语言模型接地与推理分离,以增强安全性

    研究人员推出了一种新颖的神经符号架构PL-Guard,旨在通过分离语义接地和策略推理来增强大语言模型(LLM)的安全性。该方法使用带有谓词和ProbLog规则的符号策略接口,其中本地LLM将提示-响应对接地为谓词概率,而ProbLog执行显式的概率规则推理。在XSTest基准上的评估表明,与基础模型相比,PL-Guard将不安全合规率从22.0%显著降低到0.5%,优于LLM作为裁判的基线。然而,这种改进伴随着更高的过度拒绝率,表明安…

  7. TOOL · CL_183121 ·

    大型语言模型安全基准因提示敏感性而低估了风险

    一篇新的研究论文指出,标准的基准测试可能低估大型语言模型(LLMs)的安全风险,因为它们依赖单一的规范提示。研究发现,在保持意图不变的情况下改变提示的表面形式,会显著增加 Claude、GPT-4o 和 Gemini 2.5 Pro 等模型的危险合规性。仅评估规范提示会遗漏相当一部分潜在的危险输出,这表明当前的安全性评估可能无法完全捕捉模型的漏洞。

  8. TOOL · CL_145799 ·

    新AI安全研究:激活探测器可检测有害请求

    一篇题为《纠缠之墙》的新研究论文提出,使用激活空间探测器作为检测潜在有害AI请求的方法。这些探测器在阻止合规攻击方面表现出高成功率,在跨模型家族的XSTest提示方面表现出中等成功率。虽然探测器在区分源对比方面达到了近乎完美的准确率,但当应用于新的、未见过的数据对时,其有效性有所下降,这表明它们作为广泛的风险探测器,而非最终的上下文裁决者。

  9. RESEARCH · CL_143640 ·

    新的 J-Space 协议内部评估人工智能模型安全性

    研究人员推出了一种新的协议 JADR,用于评估人工智能模型的内部安全机制。该方法在生成响应之前分析模型的雅可比空间(J-space),比传统的 LLM-as-judge 方法提供了更直接的评估。JADR 使用 SafetyAUC 指标量化内部安全性,比较了不同场景下模型及其量化版本的性能,并已应用于 Qwen3 和 Gemma 2 等模型。

  10. TOOL · CL_129350 ·

    新的操作系统内核原语增强LLM安全检查

    一种名为ProbeLogits的新型内核级操作已为AI原生操作系统开发,允许它们在生成token之前直接读取LLM的logit分布。该原语使操作系统能够在不需要单独的guard模型的情况下将代理行为分类为安全或危险,从而显著降低计算开销。在Qwen2.5-7B、Llama-3-8B和Mistral-7B等模型上的评估表明,在HarmBench和ToxicChat等基准测试上实现了高拦截率,性能与Llama Guard 3等现有guar…