实体 policy collapse

policy collapse

PulseAugur coverage of policy collapse — every cluster mentioning policy collapse across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_158637 · Jul 23 · 04:00

研究表明，LLM微调可能会降低游戏中的行动多样性

一篇新的研究论文探讨了监督微调（SFT）对大型语言模型（LLM）在顺序决策任务中行为多样性的影响。该研究使用井字棋的变体进行，发现虽然SFT可以提高行动准确性，但它通常会导致行动多样性过早崩溃。这种被称为窄支持模仿的现象会阻碍LLM的探索行为。研究人员建议，行动增强（在每个状态下对所有最优行动进行模型训练）可以帮助缓解这种多样性崩溃。