PulseAugur
实时 21:18:45
实体 task alignment

task alignment

PulseAugur coverage of task alignment — every cluster mentioning task alignment across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_154058 ·

    新研究强调AI在处理模糊用户任务方面的挣扎

    一篇新研究论文介绍了一个评估语言模型与用户任务对齐能力的框架,即使这些任务是模糊的或不完全指定的。该方法被形式化为一个部分可观察马尔可夫决策过程(POMDP),测试模型在不断演变的用户交互中推断用户真实意图的能力。人类研究表明,当前模型在此任务对齐方面存在显著困难,仅在22-32%的时间内能恢复用户的意图任务,而人类的成功率为48%。尽管监督微调和强化学习有所改进,但在通过交互解决不确定性方面,模型仍落后于人类能力,表明其在交互式自主…