实体 Cloud-ScPO

Cloud-ScPO

PulseAugur coverage of Cloud-ScPO — every cluster mentioning Cloud-ScPO across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_180488 · Aug 4 · 04:00

新的LLM方法利用隐藏状态几何来改进推理

研究人员开发了Cloud-ScPO，一种用于大型语言模型（LLM）半监督偏好优化的新颖框架，该框架利用了内部模型状态的几何结构。该方法使用少量标记数据集来构建正确和不正确推理轨迹的参考“Clouds”。通过分析这些隐藏状态的连通性和空间组织，Cloud-ScPO可以在不需要完全验证的答案或外部奖励模型的情况下获得偏好信号。在GSM8K和MATH-Numeric数据集上的实验表明，与现有的ScPO方法相比，性能有了显著提高，在GSM8K…