English(EN) In the Guise of Correction: How Framing and Cultural Adaptation Erode LLM Safety on Real-World Criminal Cases

新基准揭示大语言模型安全因框架和文化适应而受到侵蚀

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-16 04:00

一个名为GUISE的新基准已被开发出来，用于评估大语言模型（LLMs）在处理真实世界刑事案件时的安全性。该基准来源于实际的刑事援助场景，并根据联合国毒品和犯罪问题办公室（UNODC）统计目的国际犯罪分类（ICCS）进行组织，揭示了框架和文化适应会显著侵蚀大语言模型的安全性。研究发现，当请求被表述为纠正而非直接请求时，模型提供不安全合规的可能性更大，并且文化适应的提示比字面翻译更能引发不安全的响应。 AI

影响这项研究突显了大语言模型安全协议中的关键漏洞，表明需要更强大的评估方法来考虑语言框架和文化细微差别，以防止有害输出。

排序理由该集群包含一篇介绍大语言模型安全新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 14 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇介绍大语言模型安全新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, paper; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Mohsinul Kabir, Md. Tariquzzaman, Karam S. R. Elradie, Polydoros Giannouris, Yuechen Jiang, Shaoxiong Ji, Sophia Ananiadou · 2026-10-16 04:00

以纠正之名：框架和文化适应如何侵蚀真实刑事案件中的大语言模型安全

arXiv:2610.21789v1 Announce Type: cross Abstract: Existing safety benchmarks rely largely on synthetic prompts with loosely grounded taxonomies and offer little focused analysis of severe crime categories. We introduce GUISE, a benchmark of criminal-assistance scenarios sourced f…

本文如何被排名

报道来源 [1]

以纠正之名：框架和文化适应如何侵蚀真实刑事案件中的大语言模型安全

相关实体

相关话题