研究人员开发了一种方法,通过与稀疏正点互信息(PPMI)图进行平均来改进随机索引(RI)嵌入。该技术在童话语料库上进行了测试,在语义类比任务上的准确率从19.4%提高到30.7%。虽然这种图平均方法对RI显示出潜力,但在其他数据集和任务上与Skip-gram和CBOW等神经网络基线相比,其竞争力较弱。 AI
影响 引入了一种改进词嵌入的新技术,可能为特定NLP任务提供梯度基方法之外的替代方案。
排序理由 详细介绍改进词嵌入新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- continuous bag-of-words model
- Positive Pointwise Mutual Information
- PPMI+SVD
- Random Indexing
- SimLex-999
- singular value decomposition
- Skip-gram
- William Andreopoulos
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →