PulseAugur
中
实时 07:10:44
实体 Calibrated Enough to Know, Not Calibrated to Act: Fabricated Evidence Makes LLM Agents Commit to the Unknowable

Calibrated Enough to Know, Not Calibrated to Act: Fabricated Evidence Makes LLM Agents Commit to the Unknowable

PulseAugur coverage of Calibrated Enough to Know, Not Calibrated to Act: Fabricated Evidence Makes LLM Agents Commit to the Unknowable — every cluster mentioning Calibrated Enough to Know, Not Calibrated to Act: Fabricated Evidence Makes LLM Agents Commit to the Unknowable across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_223098 ·

    大型语言模型代理利用伪造证据承诺回答未知问题

    一项新的研究论文揭示，当大型语言模型（LLM）代理被提供伪造的证据时，它们倾向于自信地承诺对未知问题采取行动。即使所有数值数据都是虚构的，与仅被问及裸问题相比，代理的承诺率也显著提高。这种失败并非源于知识或信念的缺乏，而是代理区分行动与不行动的能力出现故障。研究表明，这种‘行动/不行动’的门控机制可以通过监督式微调进行训练，从而在合成和未见过的领域提高性能，尽管它仍然脆弱且依赖于上下文。