实体 Logic-PPT

Logic-PPT

PulseAugur coverage of Logic-PPT — every cluster mentioning Logic-PPT across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_183207 · Aug 5 · 04:00

新的逻辑预预训练方法提升语言模型技能和可压缩性

研究人员推出了一种名为 Logic-PPT 的新预预训练技术，该技术利用形式推导来增强语言模型的能力。该方法旨在通过整合自然语言的核心抽象机制（如变量绑定和谓词-论元组合）来赋予模型更丰富的结构和语言偏见。在大型评估中，Logic-PPT 显著加速了技能习得，在语言任务上实现了高精度，且所需的 token 数量远少于标准初始化。此外，该技术通过剪枝提高了模型的可压缩性，即使在显著稀疏的情况下也能保持密集基线的性能。