PulseAugur
中
实时 14:51:24
实体 Attainable Utility Preservation

Attainable Utility Preservation

PulseAugur coverage of Attainable Utility Preservation — every cluster mentioning Attainable Utility Preservation across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_56115 ·

    新的人工智能监督方法校准保守性以实现可扩展控制

    研究人员推出了一种名为校准集体监督（CCO）的新颖方法，用于维持对先进人工智能系统的_human_控制。CCO聚合了各种评分函数，以惩罚偏离保守基线_behavior_，在监督者担忧累积之前允许高_utility_行为。该方法使用共形决策理论在线校准保守性，确保不良结果保持在用户定义的_thresholds_内，并具有统计保证且无分布假设。在SWE-bench和MACHIAVELLI上的实验表明，CCO在约束_misaligned_代…