研究人员开发了一个名为自演化即时记忆（Self-Evolving Just-In-Time Memory）的新框架，以增强具身智能体（特别是视觉-语言模型，VLMs）的安全性。该框架将重点从阻碍进展的被动防护栏转移到主动危险缓解。它包含一个用于状态跟踪的风险充分拓扑信念图（Risk-Sufficient Topological Belief Graph），一个用于危险预测的代理基础事实记忆（Agency-Grounded Factual Memory），以及一个用于指导缓解策略的经验记忆（Experience Memory）。自动化的测试-验证-写入（Test-Verify-Write）循环使智能体能够从执行轨迹中持续改进其技能，显著提高了在IS-Bench等基准测试上的安全成功率，如使用Qwen3-VL-8B等模型所展示的那样。 AI
影响 增强具身AI的主动危险缓解能力，有可能在不影响安全性的前提下提高现实世界任务的完成度。
排序理由 该集群描述了一篇关于新AI安全框架的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Agency-Grounded Factual Memory
- Experience Memory
- Meta-Skills
- Qwen3 VL 8B
- Risk-Sufficient Topological Belief Graph
- Self-Evolving Just-In-Time Memory
- Test-Verify-Write
- Vision-Language Models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
