实体 Misfired Alignment Rate

Misfired Alignment Rate

PulseAugur coverage of Misfired Alignment Rate — every cluster mentioning Misfired Alignment Rate across labs, papers, and developer communities, ranked by signal.

Show in brief

总计 · 30天

90 天内 1

发布 · 30天

90 天内 0

论文 · 30天

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_104005 · Jun 17 · 03:53

新的LLM基准揭示“失控的对齐”压倒证据

一篇题为“错误的正确：量化和定位LLM中失控的对齐”的新研究论文引入了“失控的对齐”概念，即语言模型由于过度热心的安全训练而拒绝合理的结论。该论文定义了一个名为失控对齐率（MAR）的指标和一个名为VETO的基准，该基准包含2,032个源自BBQ数据集的对比对。对25个LLM的基准测试显示，MAR显著，范围从4.7%到18.9%，而人类参与者的MAR为0.0%。研究表明，对齐诱导的线索会加剧这些失败，这表明当前的对齐方法可能过度泛化安全…

新的LLM基准揭示“失控的对齐”压倒证据