DeepSeek-R1-1.5B

设备端 NER 模型在准确性、成本和可靠性方面接受评估

一项新近发表在 arXiv 上的研究评估了九种用于设备端部署的命名实体识别 (NER) 系统，考虑了准确性、成本、可靠性和置信度。该研究比较了各种参数大小和数据集上的经典标签器、双向编码器专家以及生成式大型语言模型 (LLM)。研究结果表明，虽然较大的 LLM 在准确性方面具有竞争力，但较小的编码器模型由于其较小的尺寸和更快的延迟，在可部署性方面提供了显著优势，尽管生成式模型可能产生相当比例的无效输出。