实体
Corda
Corda
PulseAugur coverage of Corda — every cluster mentioning Corda across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的CORDA基准测试LLM的层级式道德推理能力
研究人员推出CORDA，一个旨在评估大型语言模型（LLMs）层级式道德推理能力的新基准。与侧重于可接受答案或避免违规的现有评估不同，CORDA评估LLMs如何优先处理相互冲突的道德原则。该基准使用跨越四个伦理框架的90个道德困境来测试模型在道德优先事项转移时的适应性。对十个指令调优模型的初步测试显示出强烈的义务论偏见，大多数模型优先避免直接人身伤害而非最小化整体伤害，并且在分类伤害避免规则方面比基于结果的比较更可靠。
-
AI对齐研究通过新技术解决奖励函数被滥用问题
研究人员正在探索防止AI模型利用奖励函数（即奖励函数被滥用）的各种方法。一种方法是使用转向向量来指导梯度路由，旨在隔离不良行为。虽然这种方法通过抑制了相当一部分奖励函数被滥用现象显示出希望，但它尚未像依赖显式标签的技术那样有效。另一项进展是创建了“rewardspy”，这是一个旨在在强化学习训练期间监控和检测奖励函数被滥用迹象的库，有助于区分真正的策略改进和对奖励函数的利用。