Safety Of The Intended Functionality
PulseAugur coverage of Safety Of The Intended Functionality — every cluster mentioning Safety Of The Intended Functionality across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
大型视觉-语言模型在SOTIF合规的自动驾驶车辆目标检测方面展现出潜力 · 跟踪2个来源
一项新的研究论文评估了大型视觉-语言模型（LVLMs）在自动驾驶系统中的二维目标检测能力，重点关注预期功能安全（SOTIF）条件。该研究使用了PeSOTIF数据集，将包括Gemini 3在内的十个LVLMs与YOLOv5和RT-DETRv4等专用检测器进行了比较。结果表明，在自然退化条件下，顶尖的LVLMs展现出更高的召回率和与专用检测器相当的性能，尽管在特定扰动下，后者的几何精度仍具有优势。
-
新框架提出机器人领域世界模型模拟器的可采性阶梯
一篇新论文提出了一种可采性阶梯，用于机器人领域中的世界模型（WM）来评估动作策略。该框架借鉴了安全关键模拟实践的经验，认为在接受世界模型的判决作为证据之前，必须对其进行认证。论文强调，像 Frechet Video Distance (FVD) 这样的视觉保真度指标并不能保证世界模型能够正确响应策略的动作，特别是那些在训练中未见过的动作。该框架旨在确保模拟结果的可靠性，尤其是在自动驾驶等应用中。
-
新研究提出驾驶 VLA 的二维安全包络
一篇新研究论文探讨了视觉-语言-动作 (VLA) 驾驶规划器的安全包络，特别评估了 Alpamayo R1 模型。研究发现，单一的聚合安全阈值可能会掩盖高严重性故障的场景。通过分析 15,968 对剪辑攻击，研究人员确定了六个离散的严重性等级，并发现具有更宽松噪声阈值的场景不一定具有较低的高严重性故障率。研究结果表明，对于可部署的驾驶 VLA 的 SOTIF ODD 规范，需要一个二维安全包络。