实体
Ruomeng Ding
Ruomeng Ding
PulseAugur coverage of Ruomeng Ding — every cluster mentioning Ruomeng Ding across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究揭示LLM评估标准易受偏好漂移攻击
一项新研究论文识别出大型语言模型（LLM）评估和对齐中的一种漏洞，称为“标准诱导偏好漂移”（RIPD）。当自然语言标准的编辑（即使是通过基准验证的编辑）可能导致LLM裁判的偏好发生系统性偏移时，就会发生这种情况。研究人员证明，可以通过“偏好攻击”来利用这种漂移，即通过符合基准标准的编辑来引导LLM判断偏离可信参考，准确率最多可降低27.9%。这种诱导的偏差会通过对齐管道传播，导致训练过的LLM策略的行为发生持续和系统的漂移。
-
新框架优化 LLM 驱动的群体征询
研究人员开发了一个新的自适应群体征询框架，该框架优化了多轮交互中问题和参与者的选择。该方法使用异构图神经网络来聚合响应和参与者属性，从而能够进行缺失数据插补并指导参与者选择。该方法旨在预算约束下提高群体层面响应预测的准确性，并在真实世界意见数据集上显示出显著的收益。