AUDITPLAN

新的AUDITPLAN方法提高了AI安全对齐和可审计性

研究人员推出了一种名为AUDITPLAN的新方法，旨在增强AI模型的安全对齐。该方法要求模型在生成最终答案之前，首先生成一个结构化的安全计划，包括威胁标签和明确的约束条件。然后，该计划被用于审计模型的行为，区分真正的拒绝和欺骗性的安全理由。在各种Qwen模型上进行的实验表明，AUDITPLAN显著减少了诸如特定答案拒绝等不良捷径，并提高了安全对齐的忠实度。