一项名为“从意图到行动”的新基准测试已被开发出来，用于评估大型语言模型（LLM）在车辆语音指令系统中的安全性。该基准测试评估了 LLM 在不同情境下（包括说话者角色、身份验证和车辆状态）做出关键的预行动决策（如执行、拒绝或澄清指令）的能力。评估显示，尽管基于 API 的 LLM 表现更好，达到了 89.1% 的一致性，但它们仍然会产生误执行等错误。研究得出结论，仅依靠 LLM 的决策不足以保证安全，需要在调用车辆功能之前，通过独立的执行层来验证权限和约束。 AI
影响 强调了在汽车系统等现实世界、高风险应用中部署 LLM 的关键安全考量。
排序理由 研究论文，详细介绍了 LLM 在特定应用中安全性的新基准测试。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
