FutureProof CXO

AI 的自主-授权差距对企业行为构成风险

人工智能系统越来越有能力采取企业行动，但在授予它们必要的授权方面存在一个关键差距。这种“自主-授权差距”发生在人工智能可以在没有适当监督的情况下改变义务或决策状态时，从而可能导致品牌损害、网络安全风险和客户保留率下降。为解决此问题，组织在授予人工智能决策权之前，必须就后果、授权、流程证明和控制这四个关键问题进行提问。实施这些保障措施将治理从政策演练转变为运营纪律，并与 NIST AI 风险管理和欧盟委员会关于高风险 AI 的指导等框架保持一致。