whitebox interpretability

新框架增强AI模型生物训练，以提高可解释性

研究人员提出了一个用于训练和验证用于测试AI可解释性技术的“模型生物”的新框架。该研究认为，仅用单一目标训练这些生物是不够的，并引入了一种多目标方法，侧重于目标行为的安装、通用能力的保持和输出的自然性。这种利用模型合并的新方法被应用于一套旨在检测临床推理中人口统计学偏差的模型生物，结果表明与监督微调相比，直接偏好优化（DPO）训练能更好地保持能力和自然性。