PulseAugur
实时 09:46:37
English(EN) Robust, Scalable Detection of Text Containment in Large Web-Crawled Corpora

新的Python工具FindMyText可检测大型语料库中的文本包含

研究人员开发了FindMyText,一个用于在大型数据集中检测文本包含的开源Python包。该工具使用一种新颖的机制来识别匹配指纹的链条,与现有方法相比,能够更可靠地检测近似逐字复制的内容。FindMyText旨在扩展到网络爬取语料库,并在包括arXiv论文、维基百科和通用网络内容的数据集上展示了优于替代方法的性能。 AI

影响 该工具可以提高大规模AI训练数据集中版权检测和抄袭检查的效率和准确性。

排序理由 该项目是一篇研究论文,详细介绍了一个用于文本分析的新开源工具。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的Python工具FindMyText可检测大型语料库中的文本包含

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Lars Henry Berge Olsen, Pierre Lison, Martin Jullum, Mark Anderson ·

    Robust, Scalable Detection of Text Containment in Large Web-Crawled Corpora

    arXiv:2607.10020v1 Announce Type: cross Abstract: We present FindMyText, an open-source Python package designed to efficiently assess whether a given text appears, in part or in full, within a text corpus. The tool builds on prior techniques for document fingerprinting, but exten…