PulseAugur
中
实时 11:37:12
实体 Conceptizer

Conceptizer

PulseAugur coverage of Conceptizer — every cluster mentioning Conceptizer across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_324403 ·

    Conceptizer框架训练LLM预测含义,而非仅仅是下一个词

    一个名为Conceptizer的新训练框架已被开发出来,通过奖励对含义的预测而非仅仅是下一个词来改进语言模型。该方法利用了约9000个概念的固定词汇表,这些概念源自上下文同义词,从而在不增加模型参数的情况下提供概念级别的训练信号。在10亿到80亿参数的模型上进行的实验表明,与基线模型相比,Conceptizer在概念目标位置实现了更低的困惑度,并为上下文同义词分配了更高的概率。此外,它在知识和情感任务上提升了性能,同时在常识推理方面保…