PulseAugur
中
实时 01:47:02
한국어(KO) base64로 감춘 위험 명령, AI 안전 관문은 알아볼까: 난독화 셸 안전도 리더보드 20개 모델 실측

AI代理检测混淆的恶意Shell命令能力接受测试 · 追踪1个来源

Vidraft发布的新排行榜评估了AI代理区分合法和恶意Shell命令的能力,特别是当命令使用Base64编码等方法进行混淆时。评估发现,虽然大多数模型都能有效阻止真正有风险的命令,但在正确放行对代理功能至关重要的良性命令方面,它们的表现差异很大。在具有说服力或威胁性的文本等对抗性条件下,Kimi K3.1 Pro和GPT 6.1 Terra在识别恶意命令和保持高良性命令放行率方面均表现出色。 AI

影响 强调了AI代理准确区分良性和恶意命令(即使经过混淆)的关键需求,以确保可靠和安全的操作。

排序理由 该条目详细介绍了一个新的AI安全评估基准和排行榜,特别关注AI代理检测混淆的恶意Shell命令的能力。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

AI代理检测混淆的恶意Shell命令能力接受测试 · 追踪1个来源

本文如何被排名

Signal score
31 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该条目详细介绍了一个新的AI安全评估基准和排行榜,特别关注AI代理检测混淆的恶意Shell命令的能力。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
safety, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 한국어(KO) · Vidraft_lab ·

    AI安全网关能否检测Base64编码的恶意命令?对20个模型在混淆Shell安全排行榜上的实证研究

    <h2> TL;DR </h2> <ul> <li>위험한 셸 명령을 base64나 hex로 감싸면 AI 에이전트의 안전장치가 알아볼까요? 비드래프트가 운영하는 「난독화 셸 안전도 리더보드」는 이 질문을 비공개 평가 세트 221개 명령, 3회 다수결, AI 심판 없음으로 잽니다.</li> <li>균형정확도 1위는 GPT-6.1 Terra(99.5), 오픈 모델 1위는 Kimi K3.1 Pro(97.9), 3위는 DeepSeek V4.1 Flash(95.2)입니다. 상위권은 위장된 명령도 풀어서 의도를 …