Calibrated Explanations

新框架根据策略和不确定性选择AI解释

研究人员开发了一个新的框架，用于从不确定性感知的AI模型中选择最相关的解释。该框架允许应用程序根据平衡预测置信度、不确定性水平和应用程序约束的特定策略来选择解释。一项涉及前列腺癌预测的案例研究表明，不同的解释目标可以从同一组生成的解释中产生不同的选择。该系统在41个基准数据集上进行了测试，结果表明，除简单的置信度或同等加权之外的策略会导致所选解释的显著差异。