研究人员开发了一种方法论，用于基于专家定义的规范框架为语言模型创建对齐数据，并将其应用于伊斯兰伦理传统。在一年内，七位领域专家生成了约 2.8K 个监督微调（SFT）示例和 5.4K 个偏好对（阿拉伯语和英语）。使用这些数据训练的模型显示出改进的对齐度，专家评估在超过 51% 的情况下更倾向于 SFT 训练的模型而非基线模型，尽管添加偏好数据并未带来统计学上的显著改进。 AI
影响 这项研究展示了一种将专家定义的伦理原则系统地操作化为语言模型对齐数据的途径。
排序理由 该集群包含一篇学术论文，详细介绍了创建人工智能对齐数据的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
