large language model
PulseAugur coverage of large language model — every cluster mentioning large language model across labs, papers, and developer communities, ranked by signal.
- instance of CatalyzeX 95%
- authored by alphaXiv 90%
- instance of Gotit.pub 90%
- instance of ScienceCast 90%
- used by On-Policy Distillation 90%
- used by multi-agent system 80%
- instance of alphaXiv 70%
- used by speech recognition 70%
- used by alphaXiv 70%
- used by Gotit.pub 70%
- used by ScienceCast 70%
- uses multi-agent system 70%
29 天有情绪数据
-
LLM、MCP 和 RAG 领域指南面向 AI 工程师
这是一份面向大型语言模型 (LLM)、模型上下文协议 (MCP) 和检索增强生成 (RAG) 的综合领域指南。它专为需要生产环境实用、动手知识的 AI 工程、测试和运营领域的专业人士而设计。该指南涵盖了企业 AI 架构、提示工程、向量数据库、AI 测试、LLMOps 和安全等基本主题，并提供可操作的见解和问答环节以巩固理解。
-
量化技术将LLM缩小75%以供本地使用，平衡大小与质量
量化是将大型语言模型（LLM）缩小并降低其内存需求的关键技术，使其能在消费级硬件上使用。该过程涉及使用更少的比特（例如4位或8位）来表示模型参数，可以将模型大小缩小高达75%。然而，朴素的量化可能会因异常权重和累积误差而降低模型质量，这促使了GPTQ和AWQ等更复杂方法的出现，这些方法使用小型数据集校准量化以最小化误差。GGUF等格式（与llama.cpp一起使用）为CPU和混合推理提供了各种量化级别。
-
新的多智能体交易系统利用具有内部竞赛机制的大语言模型
研究人员开发了ContestTrade，一个新颖的多智能体交易系统，旨在提高基于大语言模型（LLM）的智能体在金融市场中的表现。该系统采用一种内部竞赛机制，包含两个专门的团队：数据团队负责将市场信息处理成文本因子，研究团队负责生成交易决策。这种方法旨在减轻LLM智能体对嘈杂市场数据和上下文窗口限制的敏感性，在2024年后A股市场模拟中，与基线方法相比，实现了更优的回测回报和风险调整后表现。
-
LLM驱动的FRAMe系统生成eVTOL飞行计划，优先考虑人类偏好
研究人员开发了FRAMe，一个利用大型语言模型（LLM）为电动垂直起降（eVTOL）飞机进行端到端飞行规划的新系统。FRAMe集成了LLM规划器、多模态教练代理和基于检索增强生成（RAG）的记忆，以创建满足任务需求和人类操作员偏好的飞行计划。在各种场景的测试中，完整的FRAMe系统实现了高有效性率，其中最强的规划器在简单场景下达到了93.8%的总体有效性和99%，同时还优先考虑了操作员的偏好。
-
LLM 管道从 68 个生理学语料库中提取可审计规则
研究人员开发了一个多分析师大型语言模型 (LLM) 管道，用于从多样化的生理学数据语料库中提取可审计规则。该工作流程处理来自 68 个公共语料库的文档，识别潜在用于非接触式监控平台的候选规则形状。该过程包括 LLM 分析、去重、阈值审计和跨语料库整合，最终形成一个独特的规则形状库，可进一步验证以用于硬件实现。
-
新框架统一检测AI内容、幻觉和水印
研究人员开发了一种新颖的统一框架，用于检测AI生成的内容和伪影，包括LLM文本、幻觉、水印和对抗性示例。该方法利用马氏距离得分（MDS），并通过采用鲁棒的深度表示协方差矩阵估计器来准确表征“正类”（例如，人类生成的文本）。该框架包括用于逐例和逐单元最小协方差行列式（MCD）估计器的有效优化算法，并展示了高击穿点特性。
-
AI工具演进：MCP标准、LLM的权衡与.NET Core开发
模型上下文协议（MCP）正成为将AI模型与外部工具和数据集成的标准。选择合适的语言模型（LLM）需要根据具体用例在成本、速度、质量和隐私之间进行权衡。此外，AI代码助手正在显著改变.NET Core开发人员构建云应用程序的开发流程，加快常规任务的处理速度。
-
新的方差校准调制技术改进了LLM生成
研究人员开发了一种新颖的技术——方差校准调制（VCM），以提高大型语言模型（LLM）在开放式生成中的性能。VCM解决了LLM陷入“似然陷阱”的常见问题，该问题会导致输出重复且乏味。通过在解码前动态重塑概率分布，VCM提高了token的多样性和连贯性，尤其是在较高温度下，且计算成本没有显著增加。该方法与现有的解码策略无缝集成，并在包括事实问答和数学推理在内的各种任务中显示出持续的改进。
-
新的RSF-GLLM框架增强了多跳知识图问答能力
研究人员推出RSF-GLLM，一个旨在改进知识图多跳问答的新型框架。该方法将可微分图推理与答案生成解耦，解决了传统流水线在语义鸿沟方面的局限性。该系统利用带有GRU引导更新器的循环软流模块，通过结构线索传播相关性分数并遍历不相似的节点。在WebQSP和CWQ数据集上的实验表明，RSF-GLLM与其他基于LLM的方法相比，取得了有竞争力的性能和卓越的推理效率。
-
新流水线优化LLM适配器服务的GPU效率 · 跟踪2个来源
arXiv上的一篇新论文详细介绍了一个数据驱动的流水线，旨在优化大型语言模型（LLM）适配器服务的GPU效率。该流水线使用数字孪生和机器学习模型来预测性能并确定适配器放置，目标是通过实现接近峰值的利用率来最大限度地减少GPU资源需求。实验表明，该方法可以将目标工作负载所需的GPU数量平均减少60%。另外，一篇dev.to文章讨论了在笔记本电脑上本地运行LLM的局限性，强调了由系统RAM决定的集成GPU（iGPU）显存上限如何影响模型性…
-
大语言模型实现音频均衡的对话式控制
研究人员开发了一种使用大语言模型（LLMs）进行音频均衡的新方法。该方法允许用户通过自然语言提示控制音响系统设置，从而实现更具对话性和上下文感知能力的体验。通过利用上下文学习和参数高效微调，基于大语言模型的系统能够符合用户偏好，在分布对齐方面比传统的静态预设和随机采样显示出显著的改进。
-
人工智能算法改进参与式预算项目选择
研究人员开发并测试了参与式预算中算法筛选的隐私保护方法。这些算法旨在仅使用项目特征和匿名化的历史投票数据来预测哪些公共投资项目可能会获得市民的资助。一项研究表明，虽然使用大型语言模型对项目进行排名的朴素方法存在局限性，但基于投票的流程使最先进的LLM能够达到与经典机器学习方法相媲美的性能。研究结果表明，参与式预算中的用户偏好足够稳定，可以使算法筛选有效地近似初始项目选择。
-
新的LLM框架支持交互式AI规划解释
研究人员开发了一种新颖的多代理大型语言模型（LLM）框架，旨在促进AI规划系统中交互式解释的实现。该框架不依赖于特定的解释类型，并允许用户和上下文相关的交互。创建了该框架的一个实例来解决目标冲突解释问题，并进行了一项用户研究，将其有效性与传统的基于模板的界面进行了比较。
-
新方法高效评估用于 LLM 对齐的偏好数据集
研究人员开发了一种新方法，用于高效评估用于对齐大型语言模型 (LLM) 的偏好数据集。所提出的基于 Shapley 的方法，称为顺序偏好优化 (SPO)，显著降低了与传统 Shapley 值计算相关的计算成本。SPO 通过在单个数据集上顺序训练模型并在推理时重建联盟策略来实现这一点，从而将所需的对齐次数从指数级降低到线性级。该方法允许更实际地评估每个偏好数据集对 LLM 对齐的贡献。
-
像ChatGPT这样的大型语言模型缺乏执行现实世界任务的物理实体
像ChatGPT这样的大型语言模型在理解和生成文本方面表现出色，但它们缺乏执行洗碗等现实世界任务所需的物理实体。这种局限性源于它们无法与物理环境互动，因为它们没有视觉等感官或手等操作能力。新兴的具身人工智能（Embodied AI）领域旨在通过将人工智能与物理实体相结合来弥合这一差距，使机器人能够在现实世界中感知、规划和行动，这最终可能导致能够执行复杂物理任务的人工智能系统。
-
新型LLM代理以高安全性和效率自动化医疗后勤
研究人员开发了CareConnect，这是一种新颖的对话代理，旨在利用大型语言模型（LLM）自动化医疗后勤。该代理利用函数调用、检索增强生成（RAG）和确定性安全护栏来管理预约、修改和取消等任务。在评估中，该系统展示了91.8%的任务完成率和96.0%的安全合规性，平均每次预约的运营成本为0.0324美元，显著降低了手动调度费用。
-
新的STAPO框架通过减少轨迹忽略来改进LLM代理训练
研究人员开发了STAPO（选择性轨迹感知策略优化），一个新颖的层次强化学习框架，旨在改进大型语言模型（LLM）代理的训练。STAPO解决了“轨迹忽略”问题，即代理因稀疏或延迟的奖励而失去对任务目标的关注。通过利用新颖的“归一化熵”指标，STAPO识别并优化与被忽略轨迹相关的异常步骤，增强了代理的意识和训练稳定性。在ALFWorld、WebShop和Search-Augmented QA基准上的实验表明，STAPO取得了最先进的性能，并…
-
DiCE-CIR 引入直接组合学习以实现高效零样本图像检索
研究人员推出了一种新颖的直接组合学习方法 DiCE-CIR，用于高效的零样本组合图像检索。该方法通过直接将参考图像与编辑文本组合，绕过了先前方法中复杂的投影和重新编码步骤。DiCE-CIR 利用大型语言模型从图像-标题对自动生成训练样本，从而无需手动标注即可实现可扩展的训练。该方法在 CIRCO 基准测试中展示了最先进的性能，并在 CIRR 上取得了有竞争力的结果，同时保持了高计算效率。
-
新的投机解码方法将大语言模型推理速度提升高达85% · 跟踪4个来源
研究人员开发了DSpark，一个旨在加速大语言模型（LLM）推理的新型投机解码框架。DSpark结合了用于改进草稿质量的半自回归架构和用于优化系统效率的置信度调度验证。在DeepSeek-V4服务系统中实现时，DSpark与MTP-1基线相比，每用户生成速度提高了60-85%，显著提高了吞吐量，并实现了以前无法达到的性能级别。另一个框架AdaptiveSD通过提供运行时自适应和多策略编排，解决了CPU受限的大语言模型推理问题，确保在各…
-
WPG-MoE框架利用LLM增强社交媒体抑郁检测 · 跟踪2个来源
研究人员开发了WPG-MoE，一个利用大型语言模型（LLM）骨干来改进社交媒体数据抑郁检测的新型框架。该系统采用弱先验引导的密集专家混合方法，允许用户根据其抑郁风险的独特表达被路由到专业专家。该框架在训练期间使用特权信息来指导路由，而在推理时则依赖简化的健康状况问卷-9（PHQ-9）筛查。在中国和英语数据集上的实验表明，WPG-MoE优于现有方法并展示了可解释的路由。