实体
Yaswanth Chittepu
Yaswanth Chittepu
PulseAugur coverage of Yaswanth Chittepu — every cluster mentioning Yaswanth Chittepu across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
New RAD framework enhances AI safety using stochastic dominance for risk control
一篇新研究论文介绍了一种名为“风险敏感对齐通过支配”（Risk-sensitive Alignment via Dominance, RAD）的新颖框架，用于改进通过人类反馈强化学习（RLHF）训练的AI模型的安全性。与依赖期望成本约束的传统方法不同，RAD利用随机支配来比较整个成本分布，从而更好地控制尾部风险和潜在的灾难性事件。所提出的方法集成了最优传输和Sinkhorn迭代以实现高效的端到端优化，并引入了分位数加权FSD约束来普遍…
-
新的 RLHF 方法使用偏好上的偏好来实现自适应边距
研究人员推出了一种新颖的从人类反馈中强化学习（RLHF）的方法，称为“基于偏好上偏好的自适应边距 RLHF”（DPO-PoP）。该方法旨在通过推断用于奖励模型学习的自适应边距来提高模型的泛化能力和鲁棒性，并考虑人类偏好的不同强度。与使用固定或简单边距的先前方法不同，DPO-PoP 利用指示两个偏好中哪个更强的标注来动态调整这些边距。所提出的技术可以集成到现有的 RLHF 目标和直接对齐损失中，其中 DPO-PoP 作为一种增强判别和生…