English(EN) From Normative Frameworks to Alignment Data: Constructing and Evaluating SFT and Preference Data

新方法基于伊斯兰伦理创建人工智能对齐数据

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-28 13:58

研究人员开发了一种方法论，用于基于专家定义的规范框架为语言模型创建对齐数据，并将其应用于伊斯兰伦理传统。在一年内，七位领域专家生成了约 2.8K 个监督微调（SFT）示例和 5.4K 个偏好对（阿拉伯语和英语）。使用这些数据训练的模型显示出改进的对齐度，专家评估在超过 51% 的情况下更倾向于 SFT 训练的模型而非基线模型，尽管添加偏好数据并未带来统计学上的显著改进。 AI

影响这项研究展示了一种将专家定义的伦理原则系统地操作化为语言模型对齐数据的途径。

排序理由该集群包含一篇学术论文，详细介绍了创建人工智能对齐数据的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 Hugging Face Daily Papers 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇学术论文，详细介绍了创建人工智能对齐数据的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 9 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

Hugging Face Daily Papers TIER_1 English(EN) · 2026-09-28 13:58

从规范框架到对齐数据：构建和评估SFT与偏好数据

Aligning language models with a specified normative framework requires translating abstract principles into concrete examples and preference signals from which models can learn. We present an expert-driven methodology for constructing such alignment data and apply it to a normati…

本文如何被排名

报道来源 [1]

从规范框架到对齐数据：构建和评估SFT与偏好数据

相关实体

相关话题