研究人员开发了一种新颖的方法,可以在不修改正在运行的 AI 系统的情况下,从实时 GPU 进程中提取中间隐藏状态。该技术通过直接从视频内存中捕获每层激活来分析已部署的大型语言模型的行为。该方法已在众多开源模型上得到验证,可用于下游分析,例如以高精度区分合规响应和拒绝响应。 AI
影响 实现了在不直接访问模型内部的情况下审计和理解已部署 AI 系统的新方法。
排序理由 详细介绍 AI 系统分析新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →