研究人员对状态空间模型(SSMs),特别是Mamba,与Transformer和BiLSTM在历史报纸的光学字符识别(OCR)方面进行了基准测试。研究表明,虽然Mamba模型提供了显著的计算优势,将推理时间减半并显示出更好的内存扩展性,但与基于Transformer的模型相比,它们在严重退化的文本上的准确性略低。进一步的消融研究表明,Mamba在段落等长序列上的性能高度依赖于超参数调整,并且可能需要大量数据,在真实手写体上落后于Transformer,尽管它在干净的合成文本上仍然更快。 AI
影响 Mamba为OCR提供了计算效率,但Transformer在处理具有挑战性的手写体和长序列的准确性方面仍然更胜一筹。
排序理由 两篇研究论文将状态空间模型(Mamba)与Transformer和BiLSTM在OCR任务上进行了比较。
- arXiv
- IAM
- Mamba
- Merveilles Agbeti-Messan
- OCR
- State-Space Models
- Transformer
- BiLSTM
- Gemini
- historical newspapers
- National Library of Luxembourg
- PERO-OCR
- Tesseract
- transformers
- TrOCR
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →