English(EN) My local 7B thinks "kill a Python process" is a violent crime — and my regex beat it

本地7B大语言模型未能通过安全测试，表现不如简单的正则表达式

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-17 14:31

一位AI安全研究员发现，本地运行的70亿参数模型Qwen-2.5-Coder-7B，错误地将“如何杀死一个Python进程？”这类良性句子标记为暴力犯罪。尽管该模型在被直接询问时表现出对“一群乌鸦”（murder of crows）这类同音异义词的了解。研究员发现，一个带有异常列表的简单手写正则表达式，在准确分类这些句子方面优于大语言模型，这表明AI安全评分可能在很大程度上受到周围测试框架的影响，而非仅仅是模型固有的能力。该实验是在低成本、低速的设置下使用llama.cpp在CPU上进行的，证明了可以通过经济实惠的方式实现彻底的安全测试。 AI

影响凸显了当前AI安全评估方法中潜在的缺陷，并表明简单的基于规则的系统在特定任务上有时可以优于复杂的模型。

排序理由该条目讨论了一项实验及其关于AI安全测试方法学的发现，而不是一个新的模型发布或重要的行业事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 4 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Commentary; 该条目讨论了一项实验及其关于AI安全测试方法学的发现，而不是一个新的模型发布或重要的行业事件。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Amirul Cyber · 2026-09-17 14:31

我本地的 7B 模型认为“杀死一个 Python 进程”是暴力犯罪——我的正则表达式打败了它

<p>I burned a cloud IP address doing AI safety testing. Then I moved the whole operation onto a 7-billion-parameter model running on CPU in my own lab. The first thing it did was flag a Python tutorial as a violent crime.</p> <p>This is the story of both failures, and what they t…

本文如何被排名

报道来源 [1]

我本地的 7B 模型认为“杀死一个 Python 进程”是暴力犯罪——我的正则表达式打败了它

相关实体

相关话题