natural language processing
PulseAugur coverage of natural language processing — every cluster mentioning natural language processing across labs, papers, and developer communities, ranked by signal.
- instance of named-entity recognition 90%
- instance of SciTraj 90%
- instance of DagsHub 70%
- instance of Gotit.pub 70%
- instance of alphaXiv 70%
- instance of ScienceCast 70%
- instance of CatalyzeX 70%
- instance of PixelBank 70%
- used by optical character recognition 70%
- used by named-entity recognition 70%
- used by Eugene Yan 70%
- instance of Word2vec 70%
16 天有情绪数据
-
童年散文比 Transformer 更能预测抑郁症
一项发表在 arXiv 上的新研究表明，传统的统计方法在预测抑郁症状的长期预测方面可能优于先进的 Transformer 模型。研究人员使用个体 11 岁时写的散文来预测 23 岁时可能出现的抑郁症状。基于六个童年协变量的逻辑回归模型比七个微调的 Transformer 和其他几种自然语言处理模型取得了更高的 AUC-ROC 分数，这表明当前的 Transformer 架构可能并非最适合这项特定的长期预测任务。
-
AI时代将软件价值从代码转向深层、嵌入式属性
在人工智能时代，软件公司的可防御性正从易于编码转向更深层、不那么显眼的属性。虽然生成式AI和机器学习等AI工具降低了软件开发的门槛，但真正的企业价值现在在于水面以下的因素。这些因素包括领域专业知识、专有数据、深度嵌入的工作流程、合规性以及客户关系，这些都是AI难以复制的。能够利用这些基础要素从数据中创造独特智能的公司，即使不拥有主要数据源，也注定会取得长期成功。
-
研究论文认为 GenAI 将重塑旅游推荐系统
一篇新研究论文提出，生成式人工智能（GenAI）将彻底改变旅游业推荐系统（TTRSs）。该论文认为，当前的 TTRSs 受限于过时的数据、优先考虑准确性而非相关性的算法，以及未能满足旅行者需求。GenAI 应用正成为行程规划的主要工具，这需要向更灵活、更具咨询性质的 TTRSs 转变，并整合数据挖掘和自然语言处理等多种 AI 技术。
-
新的ConvoDrift数据集模拟演变的对话风格
研究人员推出了ConvoDrift，一个旨在研究对话风格如何在多轮对话中演变的新数据集。与假设风格静态不变的先前数据集不同，ConvoDrift捕捉了语气动态变化，同时保持了语义意图的一致性。该数据集包含超过15,000个对话结构，并带有风格漂移和方向的标注，涵盖了各种交流体裁。它还包含一个补充性的成对数据集，用于研究个性化和对齐，并得到了人类验证和基于LLM的评估的支持。
-
Masakhane项目推动非洲语言的自然语言处理研究
Masakhane项目是一项基层倡议，致力于增加非洲语言在自然语言处理（NLP）研究中的代表性。该组织旨在赋能社区塑造和拥有技术进步，强调人的尊严、福祉和公平。Masakhane强调，由于历史政治和资源分配问题，非洲语言在人工智能中的代表性严重不足，并指出拥有数百万使用者的语言的数据量却少于使用者较少的语言。
-
RAG通过实现外部知识检索来增强LLM
检索增强生成（RAG）是一种通过使大型语言模型（LLM）在生成响应前能够访问外部知识库来增强其能力的技朧。这种方法解决了LLM的局限性，例如知识不完善、信息过时和事实不准确等问题。RAG的工作原理是首先从指定的集合（如研究论文或内部数据）中检索相关信息，然后利用检索到的上下文来告知LLM的答案，有效地将闭卷考试变成开卷考试。该概念建立在信息检索领域数十年的工作基础上，并将其与生成式语言模型相结合。
-
人工智能性能成本每季度下降47%，超越科技史
在过去三年里，人工智能性能的成本平均每季度下降约47%，这一速度超过了历史上的技术发展趋势。这一下降得到了跨越各种基准测试的模型平均数据的支持，与不依赖特定模型的估计相符。这一趋势表明与人工智能能力相关的计算成本正在显著降低。
-
Apple 研究揭示扩散模型中的置信度局限性
Apple 机器学习研究发布了一篇论文，详细介绍了扩散模型中置信度的局限性，尤其是在 token 依赖性方面。研究强调，当前方法通常未能考虑到 token 之间固有的依赖性，从而导致不准确。该论文还探讨了 on-policy distillation 在训练推理模型方面的有效性和缺点，并研究了位置预测作为 transformer 的预训练策略。
-
自然语言处理释义任务探索编码器-解码器、注意力机制
本文深入探讨了自然语言处理中释义任务的技术方面。它探讨了编码器-解码器架构、序列解码方法以及解码过程中注意力机制的作用等关键概念。
-
TTLab 在 Daleel 2026 上发布 STAR-Ar 用于阿拉伯语论点识别
TTLab 的研究人员开发了 STAR-Ar，这是一种新颖的 BERT-BiLSTM-CRF 架构，专为阿拉伯语文本中的论点识别而设计。该系统已提交给 Daleel 2026 共享任务，该任务侧重于识别和分类阿拉伯语辩论和社论中的论证话语单元。STAR-Ar 模型在测试数据上取得了 73.7 的 F1 分数，证明了将 Transformer 嵌入与转换约束相结合在此任务上的有效性。分析显示，仅在社论上训练的模型表现不如在辩论上训练的模…
-
GDELT与Common Crawl新闻：自然语言处理的比较分析
本文比较了GDELT和Common Crawl News这两个对自然语言处理、知识图谱和大型语言模型至关重要的新闻数据集。通过分析它们的内容和来源覆盖范围，研究突出了每个数据集独特的优势和局限性。GDELT主要使用广播、印刷和网络新闻，而Common Crawl News是通过对全球新闻网站进行网络爬取收集的，这揭示了它们数据获取方式的显著差异。
-
AI代理与NLP：探索结构、组织和词嵌入
这个帖子集群讨论了AI代理及相关技术的各个方面。其中一篇帖子探讨了以结构化的方式组织AI代理，另一篇则触及了将AI代理集成到现有组织结构和访问管理系统中的挑战。此外，还讨论了词嵌入及其在自然语言处理（NLP）和机器学习中的重要性。
-
新工具通过分析“原子贡献声明”来绘制研究趋势图
研究人员开发了Drift Inspector，一个开源系统，旨在测量和可视化科学研究领域随时间的推移而发生的变化。该工具从研究摘要中提取“原子贡献声明”（ACCs），然后将这些声明聚类以创建趋势的交互式地图。对六年的EMNLP数据进行的初步应用表明，该领域正从传统的自然语言处理任务转向LLM时代的能力，如推理和多模态。该系统还处理了整个ACL Anthology，产生了80,000篇摘要中的346,000项声明。
-
对尼日利亚低资源语言进行调查以推动自然语言处理的进步
一篇题为“NaijaNLP: 对尼日利亚低资源语言的调查”的新调查论文已在 arXiv 上发表，详细介绍了豪萨语、约鲁巴语和伊博语这三种主要尼日利亚语言在自然语言处理 (NLP) 研究的现状。该论文指出，尽管这些语言被尼日利亚大部分人口使用，但由于计算语言学任务缺乏足够的数字数据，它们被认为是低资源语言。审查发现，相当数量的研究 (27.6%) 贡献了新的语言资源，但过度依赖于重用现有数据。确定的主要挑战包括形态分析和变音符号的表示，…
-
使用大型语言模型的自动化情感强度标注达到接近人类的性能
研究人员开发了一种自动标注文本中情感强度的方法，解决了创建自然语言处理任务数据集的关键瓶颈。这种新方法利用大型语言模型进行比较标注，特别是采用了最佳-最差排序技术，该技术被证明比直接评分更可靠。在这些自动标注上微调的Transformer回归器，其性能几乎与在手动标注数据上训练的模型相当。
-
上下文嵌入捕捉科学文本中的语义变化
一篇新研究论文探讨了上下文嵌入在捕捉科学术语随时间变化的语义变化方面的有效性。该研究使用来自天体物理学和自然语言处理的语料库，将基于频率的方法与基于嵌入的方法进行了比较。虽然频率方法在识别趋势相关术语方面略占优势，但语义指标揭示了关键的概念发展，例如纯频率分析遗漏的“原初黑洞”。研究结果表明，通过捕捉补充信息，整合上下文嵌入可以增强科学计量趋势分析。
-
新框架提升低资源语言命名实体识别标注质量
研究人员开发了一个可扩展的框架，以提高命名实体识别（NER）标注的质量，特别是针对低资源语言。这种多步骤方法利用自动化技术，包括基于频率的自训练迭代方法和双阈值机制，来增强推理置信度并提升NER性能。该研究还探讨了大型语言模型在数据有限的语言中执行NER的能力。
-
首个使用圣经语料库开发的英叙机器翻译模型
研究人员开发了首个用于英译叙利亚语的基于短语的统计机器翻译（SMT）模型，解决了翻译一种拼写复杂且濒危语言的挑战。该研究创建了一个包含近40,000对句子的圣经数据集，采用自定义脚本和人工审查进行对齐。所得模型达到了23.54的BLEU分数，人工评估显示性能尚可，为叙利亚语未来的自然语言处理（NLP）工作奠定了基础。
-
LLMs 在生物医学和 NLP 关系提取任务上进行基准测试 · 已追踪 2 个来源
一篇新论文对大语言模型 (LLM) 在生物医学关系提取方面进行了基准测试，发现 OpenAI O1 和 Gemini 2.0 Pro 等专有模型取得了最先进的结果。该研究利用 SNPPhenA 语料库执行了句子级、摘要级和关联强度分类等任务。OpenAI O1 在少样本句子级分类方面表现出色，而 Gemini 2.0 Pro 在具有挑战性的关联强度任务上表现最佳。另一篇论文介绍了 SciNLP，这是一个专门针对自然语言处理 (NLP)…
-
Inria Côte d’Azur 知识图谱与 NLP 博士研究机会
Inria Côte d’Azur 的 WIMMICS 团队提供博士研究机会，专注于知识图谱、语义网和自然语言处理 (NLP) 的交叉领域。研究将涉及从 RDF 数据中提取信息和进行语言化，以促进维基及其链接数据的协作编辑。该职位位于法国索菲亚·安提波利斯。