squad
PulseAugur coverage of squad — every cluster mentioning squad across labs, papers, and developer communities, ranked by signal.
-
Microsoft 详解用于一次性 AI 代理的 Agent Framework
Microsoft 详细介绍了其 Agent Framework,这是一个用于构建 AI 代理的分层 SDK。该框架强调一次性代理,这些代理可以利用持久化内存,从而实现复杂的任务执行。这种架构支持模块化开发和高效的代理工作流处理。
-
新的 RAG 研究将上下文长度与语义竞争区分开来
一篇新的研究论文提出了一种方法,用于区分检索增强生成(RAG)系统中错误的原因是上下文长度还是语义竞争。该研究引入了一种匹配对照协议,该协议可以分离竞争性段落对模型性能的影响。在 Phi-2 和 Qwen2.5-1.5B 模型上的实验表明,减少语义竞争,而不仅仅是上下文长度,可以显著提高 F1 和答案包含率等性能指标。
-
新的AS-LoRA方法提高了联邦学习的隐私性
研究人员开发了AS-LoRA,一种用于隐私保护联邦学习中LoRA组件自适应选择的新型框架。该方法通过允许每一层独立选择其活动组件并在通信轮次中调整这些选择来解决此类设置中常见的聚合错误。AS-LoRA在不增加隐私成本的情况下,理论上提高了收敛速度和准确性,并在GLUE和SQuAD等基准测试中取得了显著的进步。
-
PACZero 实现具有可用效用的 PAC-私有语言模型微调
研究人员开发了 PACZero,一种新颖的大型语言模型微调方法,可提供强大的隐私保证。该方法利用梯度的符号量化来实现一种隐私机制,在这种机制下,成员推断攻击的成功率不高于随机猜测。PACZero 在 SST-2 和 SQuAD 等标准基准测试中表现出具有竞争力的性能,即使在零互信息的情况下,在高隐私设置下也优于先前的方法。
-
研究人员发布 Faithfulness-QA 数据集以训练上下文忠实的 RAG 模型
研究人员开发了 Faithfulness-QA,一个包含近 10 万个样本的新数据集,旨在训练检索增强生成(RAG)模型优先考虑检索到的上下文而非其内部知识。该数据集通过系统地替换现有问答基准中的命名实体为替代项来创建,从而在上下文和参数记忆之间产生冲突。该资源旨在提高 RAG 系统的忠实度,并为其提供评估其上下文基础能力的基准。
-
新的硬件设计为边缘AI提供高效的Softmax和LayerNorm
研究人员开发了用于Transformer模型在边缘设备上运行的、硬件高效的Softmax和Layer Normalization的近似方法。这些方法确保了保证归一化,这对于边缘NLP和生成式AI应用中以得分为导向的任务至关重要。所提出的架构采用Verilog HDL实现,并在28nm CMOS工艺上合成,与现有解决方案相比,其精度下降极小,面积也显著减小。