Celeste De Schamphelaere

新的训练方法和评估套件增强了AI模型的可解释性

研究人员开发了一种改进的激活预言家（AOs）训练方案，这是一种用于解释机器学习模型中残差流激活的方法。他们的改进侧重于使用on-policy rollouts、精炼对话数据集、纳入更多层以及优化注入公式。这些变化带来了AOs在生活质量方面的显著提升，并引入了AObench，这是第一个用于AO质量的全面评估套件，旨在为可扩展的端到端可解释性奠定基础。