Medical Subject Headings
PulseAugur coverage of Medical Subject Headings — every cluster mentioning Medical Subject Headings across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
在 OpenAI 的 Astra 和阿里巴巴的研究推动下，循环 Transformer 获得关注
循环 Transformer 的概念，即将 Transformer 层反复应用于同一序列，在有报道称 OpenAI 的 Astra 模型采用了该技术后引起了关注。这种方法旨在深化计算而不按比例增加模型参数，可能导致更有效的扩展。然而，人们对这类模型的解释性提出了担忧，因为循环性质可能会模糊中间推理步骤。阿里巴巴集团一直在积极研究该领域，其 MeSH 和 SpiralFormer 等论文解决了循环循环内的计算冗余和可变序列长度等挑战。
-
Model Context Protocol 增加了受管目录API，用于AI数据查询
Model Context Protocol (MCP) 正在通过一个受管目录API进行扩展，为领域工程师提供对数据资产元数据的直接访问。这个新API旨在让AI助手能够通过查询这个元数据层来回答有关数据敏感性、所有权和访问权限的问题，而不是依赖可能过时的维基页面或原始数据查询。该系统旨在通过确保答案直接来自实时策略和元数据来防止幻觉，区分关于数据值的语义查询和关于数据本身的目录查询。
-
Noesis架构通过自适应并行和语义发现增强了Graph-RAG
研究人员推出了一种新颖的Graph-RAG架构Noesis，旨在克服当前系统的局限性。Noesis采用四种算法来解决静态分块、自适应扩展和多领域部署的挑战。该系统在速度和效率方面取得了显著改进，在零内存溢出事件的情况下实现了23倍的速度提升，并在消费级GPU上实现了6.3倍的速度提升，同时在HotpotQA基准测试中也超越了现有方法。
-
Noesis架构通过自适应并行和跨知识库路由增强Graph-RAG · 跟踪2个来源
研究人员推出了一种新颖的Graph-RAG架构Noesis，旨在克服将大型语言模型与领域特定知识进行基础化的局限性。Noesis采用了四种关键算法：用于模拟人类阅读的双向图遍历、用于实现23倍加速的自适应扩展的AIMD并发控制器、用于提供消费级GPU上6.3倍加速的领域感知量化的Moesis，以及用于跨知识库语义路由的Mesh。该系统在HotpotQA基准测试中表现出显著的改进，达到了59.5 EM / 74.7 F1，比现有的Gra…
-
Automattic 的 AI 驱动 CRM Mesh 在 Android 上线
Automattic 的个人 CRM Mesh 已在 Android 设备上推出，增强了用户管理个人和职业网络的能力。该应用程序支持详细的联系人管理、笔记和外展提醒，并新增了分屏集成和主屏幕小部件等 Android 特有功能。Mesh 还集成了 AI，以帮助用户导航其庞大的网络，其 Nexus AI 功能的早期版本支持查询特定公司或拥有特定专业知识的联系人。
-
新的 MESH 优化器提高了 MoE 训练效率，降低了内存使用
研究人员开发了 MESH，这是一种新颖的优化技术，旨在提高混合专家（MoE）模型训练的效率。传统的内存高效优化器（如 Sinkhorn）由于 MoE 架构的梯度具有条件性和可变性，因此在 MoE 架构上存在困难。MESH 引入了一种隐藏动量 Sinkhorn 更新，可保留时间一阶矩信号，与 AdamW 相比，优化器状态内存减少约 62.5%，峰值 PyTorch CUDA 分配减少约 12.6%，同时保持具有竞争力的评估损失。
-
BioHiCL模型利用分层对比学习增强生物医学检索
研究人员开发了BioHiCL，一种用于生物医学信息检索的新方法，该方法利用分层多标签对比学习。该方法利用医学主题词（MeSH）的结构化监督来更好地捕捉生物医学文本中的语义关系和重叠。BioHiCL模型有基础版（0.1B参数）和大模型版（0.3B参数），在检索、句子相似度和问答任务上表现强劲，同时保持计算效率。
-
研究：评估设计影响MeSH特征性能差距
一篇新发表在arXiv上的研究论文，调查了评估设计对专家分配和自动生成的医学主题词（MeSH）在用作分类任务特征时的性能差距的影响。该研究在Cohen药物类别识别基准上，比较了词袋逻辑回归模型和领域特定语言模型BiomedBERT。研究结果表明，专家分配和自动分配MeSH之间的差距会因评估方法（如语料库大小和交叉验证折叠）而显著不同。研究还指出，像BiomedBERT这样的Transformer模型在处理附加的MeSH术语时可能面临令…
-
资源高效的LLM在生物医学本体生成方面展现出潜力
一篇新论文介绍了MeSH-Rel-4K，一个包含4000个来自医学主题词表（MeSH）的语义关系的数据集，用于评估资源高效的大型语言模型（LLM）在生物医学本体生成方面的能力。该研究对五个开源LLM（参数量高达90亿）进行了基准测试，考察了标准提示、思维链（Chain-of-Thought）和微调适应策略。结果表明，微调显著提高了性能，平均F1分数提高了34.1个百分点，证明了一种创建专业生物医学本体的有效自动化方法。
-
新研究以统一框架应对大规模检索挑战
两篇新研究论文解决了大规模检索系统中的挑战，重点是提高效率和准确性。第一篇论文 MESH 提出了一种用于异构内容检索的统一框架，该框架增强了新鲜项目的扩展行为并提高了系统吞吐量。第二篇论文介绍了一个用于 Walmart 使用的基于嵌入的检索管道，该管道结合了混合硬负例挖掘和遗留感知蒸馏，以稳定和改进检索性能。
-
中国在太空AI领域率先采用光子计算，突破传统芯片限制
中国公司光本微科技正在为太空应用领域开拓光子计算，旨在克服传统电子芯片在轨运行的局限性。该公司正与东方天玄合作，开发全球首个天基光子计算载荷。该技术使用光而非电子，在抗辐射、散热和能效方面具有固有优势，这些都是太空AI面临的关键挑战。
-
大型语言模型在生成研究主题本体方面展现出潜力
研究人员探讨了大型语言模型如何在生物医学、物理学和工程学领域生成研究主题本体。他们引入了PEM-Rel-8K数据集，该数据集包含来自MeSH、PhySH和IEEE分类法的8000多个关系。实验表明，在该数据集上微调大型语言模型可显著提高其识别语义关系和跨学科知识迁移的能力。
-
新的MCP服务器集成了7种医学术语，用于LLM
一个名为medical-terminologies-mcp的新模型上下文协议（MCP）服务器已发布，它提供了对七个主要医学术语系统的统一访问。该工具旨在帮助大型语言模型（LLM）准确检索特定的医疗代码和信息，克服它们在记忆此类数据方面的固有局限性。该服务器支持各种LLM客户端，并为常见的临床和研究任务提供了几个预定义的提示，旨在提高医疗保健和研究领域的效率。
-
KARITA模型整合知识以改进AI中的时间自适应
研究人员开发了一种名为KARITA的新方法，以应对机器学习模型中时间偏移的挑战。KARITA整合了丰富的知识源，例如医学本体，以更好地使模型适应不断变化的数据分布和领域知识。该系统在临床、法律和科学领域的分类任务上进行了评估，显示出时间自适应方面的一致性改进。