English(EN) SafeMath: Inference-time Safety improves Math Accuracy

新技术SafeMath在提高LLM数学准确性的同时增强了安全性

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-01 04:00

研究人员推出了一种新颖的安全对齐技术SafeMath，旨在减轻大型语言模型（LLM）在处理数学问题时产生有害输出的问题。该技术旨在解决LLM通过嵌入偏见或不道德内容的对抗性输入而被操纵的问题，尤其是在教育环境中。为了促进这项研究，研究团队还开发了ToxicGSM，这是一个包含1.9k个算术问题和嵌入式敏感上下文的数据集，用于审计现有LLM并分析安全性和准确性之间的权衡。SafeMath不仅减少了有害输出，还保持甚至提高了数学推理能力，表明安全性和准确性并非相互排斥。 AI

影响增强了LLM在数学任务中的安全性，可能减少有害内容在教育环境中的传播。

排序理由该集群包含一篇研究论文，详细介绍了用于LLM在数学环境中安全性的新技术和数据集。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 20 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇研究论文，详细介绍了用于LLM在数学环境中安全性的新技术和数据集。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Sagnik Basu, Subhrajit Mitra, Aman Juneja, Somnath Banerjee, Rima Hazra, Animesh Mukherjee · 2026-09-01 04:00

SafeMath：推理时安全性能提升数学准确性

arXiv:2603.25201v2 Announce Type: replace Abstract: Recent research points toward LLMs being manipulated through adversarial and seemingly benign inputs, resulting in harmful, biased, or policy-violating outputs. In this paper, we study an underexplored issue concerning harmful a…

本文如何被排名

报道来源 [1]

SafeMath：推理时安全性能提升数学准确性

相关实体

相关话题