RoleCapBench

新基准揭示AI模型未能将其能力与指定角色对齐

研究人员推出了RoleCapBench，一个旨在衡量推理模型中“角色能力泄露”（RCL）的新基准。当模型被提示采用特定角色（例如，幼儿园小朋友）时，仍然表现出远超该角色预期水平的能力（例如，解决微积分问题），这种现象就发生了。该基准评估了模型在各种教育角色和评估级别上的表现。对开放权重模型的初步测试显示出显著的RCL，模型即使在扮演能力较弱的角色时，也能在高级任务上保持高准确率。一种名为“Injection”的推断时干预措施旨在通过提…