PulseAugur
中
实时 09:31:20
English(EN) SENTINEL: A Multi-Level Formal Framework for Safety Evaluation of Foundation Model-based Embodied Agents

新框架SENTINEL正式评估AI具身智能体的安全性

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了一种新颖的框架SENTINEL，旨在形式化评估由基础模型驱动的具身智能体的物理安全性。该框架提供了一个多层次的安全评估，在一个统一的系统中涵盖了语义理解、计划生成和物理执行。SENTINEL利用形式化时序逻辑来指定安全需求，并根据这些精确的规范验证智能体对环境的理解、行动计划和执行轨迹。 AI

影响 为在物理模拟中评估AI智能体的安全性提供了一种严谨的方法，有可能提高它们在现实世界应用中的可靠性。

排序理由 该集群描述了一篇关于AI安全评估形式化框架的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新框架SENTINEL正式评估AI具身智能体的安全性

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Simon Sinong Zhan, Philip Wang, Yao Liu, Yiyan Peng, Zinan Wang, Qineng Wang, Zhian Ruan, Xiangyu Shi, Xinyu Cao, Frank Yang, Zhenyang Ni, Kangrui Wang, Ruohan Zhang, Huajie Shao, Manling Li, Qi Zhu ·

    SENTINEL：一种用于基础模型驱动的具身智能体安全评估的多层次形式化框架

    arXiv:2510.12985v3 Announce Type: replace Abstract: We present SENTINEL, a framework for formally evaluating the physical safety of foundation model (FM)-based embodied agents. SENTINEL is the first to provide multi-level safety evaluation across semantic interpretation, plan gen…

相关实体

相关话题