研究人员开发了一种名为 TEE-RedBench 的新方法，用于评估像 ChatGPT 和 Claude Opus 这样的大型语言模型在安全咨询方面的能力。研究发现，这些 AI 助手在理解可信执行环境 (TEE) 方面会表现出失败，并且一些错误会在模型之间转移。为了缓解这些问题，研究人员提出了一种“LLM-in-the-loop”评估流程，该流程结合了策略门控、检索接地和验证检查，该流程显示失败率降低了 80%。 AI
影响 强调了使用 LLM 执行安全任务的潜在风险，并提出了提高其在关键领域可靠性的方法。
排序理由 学术论文，详细介绍了 AI 模型的新评估方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →