ExplainGuard

ExplainGuard框架通过零信任架构增强AI解释完整性

研究人员开发了ExplainGuard，一个旨在确保黑盒AI模型生成的解释的完整性的新框架。该系统采用零信任架构（ZTA）在向用户发布解释之前持续验证解释，摆脱了审计员固有可信的假设。ExplainGuard通过三个关键支柱强制执行验证：通过行为指纹检查资产完整性以检测模型替换，使用公理一致性检查确保语义有效性，以及使用排名稳定性方法验证特征忠实度。