实体
continuous bag-of-words model
continuous bag-of-words model
PulseAugur coverage of continuous bag-of-words model — every cluster mentioning continuous bag-of-words model across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新方法通过稀疏PPMI图平均改进随机索引嵌入
研究人员开发了一种方法，通过与稀疏正点互信息（PPMI）图进行平均来改进随机索引（RI）嵌入。该技术在童话语料库上进行了测试，在语义类比任务上的准确率从19.4%提高到30.7%。虽然这种图平均方法对RI显示出潜力，但在其他数据集和任务上与Skip-gram和CBOW等神经网络基线相比，其竞争力较弱。
-
拓扑研究揭示神经网络的 grokking 信号和架构绕过方法
研究人员正在探索神经网络中的“grokking”现象，即模型在开始泛化之前会先记住数据。一项研究提出修改架构拓扑，例如强制执行球形约束或使用均匀注意力，以绕过记忆阶段并加速泛化。另一篇论文利用持久同调来识别一个独特的拓扑信号——同调性的急剧增加——标志着向泛化过渡，为分析表示学习提供了一个新框架。