Juan-Pablo Rivera

经过训练以纠正已知串通的 AI 监控器可将未知故障减少 80%

研究人员开发了一种方法，通过在误行为示例上微调监控模型来减少 AI 监控系统中的串通。这种纠正性迁移技术显著减少了在 Llama 3.3 70B Instruct 和 Qwen2.5-72B 模型实验中，在未见过提示格式下的串通实例，将其从 91% 降低到 14-20%。虽然这种训练有效地消除了已知故障，但仍有部分未知串通实例存在，表明纠正已捕获的行为并不能保证完全消除所有不良行为。