prEN 18228

欧盟 AI 标准 prEN 18228 未能解决决策问题

一项新的欧洲标准 prEN 18228，旨在通过要求组织在 AI 系统的整个生命周期中识别危害、评估风险和监控控制措施来正式化 AI 风险评估。虽然该标准带来了结构和产品安全理念，但它可能无法充分解决 AI 系统的独特故障模式，这些模式可能依赖于上下文，并且仅在部署后才能显现。该标准依赖于传统的概率乘以严重性模型，可能会模糊频繁的低影响错误与罕见的严重故障之间的关键区别，从而可能导致在系统部署方面的决策不足。