研究人员引入了一种名为“无盒漏洞分析”的新颖方法,用于检测闭源软件中的安全漏洞。该方法仅使用描述性元数据(如输入、输出和预期行为)来分析系统,而无需直接访问或运行时交互。开发了一个名为MCPSEC的原型系统,用于识别模型上下文协议(MCP)服务器中的间接提示注入漏洞。MCPSEC在预测漏洞方面表现出高召回率,仅使用元数据就准确识别了98.9%的已验证漏洞,优于基线LLM。 AI
影响 引入了一种无需直接访问即可分析AI系统的新范例,有望改善闭源模型的安全审计。
排序理由 详细介绍新方法论和原型系统的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →