Carlos Garrido-Munoz

手写文本识别受益于高像素方差子空间分析 · arXiv 研究

研究人员发现，对于手写文本识别（HTR），自监督预训练中的像素重建方法比对比方法更有效。这是因为HTR中的判别信号集中在高方差像素方向上。该研究在五种语言的六个手写基准上测试了六种自监督学习方法，发现基于像素的方法实现了最低的字符错误率，并且在标签使用上更有效。当与预训练的LLM解码器结合时，一个固定的基于像素的编码器被证明与完全微调的监督基线具有竞争力。