Sunnie S. Y. Kim

苹果研究人员发布模型来解读AI安全标注者的推理过程

Apple Machine Learning Research 推出了标注者策略模型（APMs），这是一种理解AI安全标注中分歧的新颖方法。这些可解释的模型直接从标注者的标注行为中学习其内部安全策略，无需标注者提供额外解释。APMs 可以准确地模拟标注者的安全策略，预测对反事实编辑的响应，并识别分歧的根源，例如操作失误、策略模糊或价值多元化。通过使标注者的推理过程可见且可比较，这种方法支持更具针对性和透明度的AI安全策略设计。