本文介绍了一种通过在稀疏正点互信息(PPMI)图上进行平均来改进随机索引(RI)嵌入的方法。该技术在童话语料库上,针对与Google家族类别相关的语义类比问题,准确率显著从19.4%提升至30.7%。然而,该方法在text8和SimLex-999等其他数据集上并未优于神经基线模型,甚至降低了某些其他嵌入类型的准确率。 AI
影响 该研究提供了一种非梯度方法来增强特定类型的嵌入,尽管其与神经模型的广泛竞争力仍然有限。
排序理由 该条目是一篇研究论文,详细介绍了一种改进词嵌入的新颖方法。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
- Bloom filter
- continuous bag-of-words model
- Positive Pointwise Mutual Information
- PPMI+SVD
- Random Indexing
- SimLex-999
- singular value decomposition
- Skip-gram
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →