PulseAugur
实时 21:48:31

新框架增强自主代理的概率安全性

研究人员开发了一个用于马尔可夫决策过程(MDP)中概率安全防护的新形式化框架。该框架解决了在可接受一定概率不良事件的情况下确保安全性的复杂性问题。论文介绍了用于离线和在线防护的构造,这些防护能够维持强大的安全保证,并通过实证评估证明了其实际优势和计算可行性。 AI

影响 引入了一个用于自主代理概率安全的形式化框架,有可能提高实际应用的可靠性。

排序理由 发表了一篇学术论文,详细介绍了用于MDP中概率安全的新形式化框架和构造。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新框架增强自主代理的概率安全性

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Sebastian Junges ·

    Shields to Guarantee Probabilistic Safety in MDPs

    Shielding is a prominent model-based technique to ensure safety of autonomous agents. Classical shielding aims to ensure that nothing bad ever happens and comes with strong guarantees about safety and maximal permissiveness. However, shielding systems for probabilistic safety, wh…