Julian Siber

新框架将人工智能可解释性和隐私形式化为信息流

研究人员开发了一个新的框架，用于指定和验证人工智能系统中的可解释性要求。该方法使用认识论时序逻辑，并扩展了反事实因果量化，将可解释性和隐私建模为信息流。该方法允许正式指定代理需要多少信息来理解系统输出背后的原因，并包括检查有限状态模型是否符合这些规范的算法。已在基准测试上评估了原型实现，证明了其区分可解释和不可解释系统的能力，同时也能适应隐私限制。