Hu et al.
PulseAugur coverage of Hu et al. — every cluster mentioning Hu et al. across labs, papers, and developer communities, ranked by signal.
-
SynthAgent框架为AI代理生成动态提示
一个名为SynthAgent的新框架已被开发出来，以解决AI代理系统中静态提示的问题。与使用固定提示处理所有任务的传统方法不同，SynthAgent在运行时动态生成特定于任务的提示、工具计划和策略。然后，这个生成的工具包在一个计划-执行-验证循环中执行，并在失败时具有反思和修订机制。该框架的灵感来自于代理工具包和元搜索的最新研究，旨在将提示工程化为代理系统的动态组件。
-
指南详细介绍 LoRA 和 QLoRA 以实现高效的 LLM 微调
本文提供了一份实用的指南，介绍如何使用参数高效微调 (PEFT) 方法，特别是 LoRA 和 QLoRA，来微调 Llama 3 等大型语言模型。文章解释说，虽然基础 LLM 是通用的，但微调可以使它们适应特定的任务、语调或知识。LoRA 通过仅训练一小部分适配器权重而不是整个模型来实现这一点，从而显著降低了计算成本。QLoRA 通过引入 4 位量化进一步优化了这一点，使得在有限的硬件上微调非常大的模型成为可能。
-
LLM 微调：全参数微调 vs LoRA vs QLoRA 详解
本文比较了三种大型语言模型（LLM）的微调方法：全参数微调（Full Fine-tuning）、LoRA 和 QLoRA。全参数微调会修改模型的所有权重，具有最高的潜在质量，但需要大量的计算资源。LoRA 和 QLoRA 是参数高效微调（PEFT）方法，仅训练一小部分参数，可大幅降低资源需求。QLoRA 通过使用 4 位量化进一步优化，可在单个 GPU 上进行微调，使其成为预算有限团队的实用选择。
-
新的PPLS框架提供校准不确定性和改进的准确性
研究人员开发了一个新的概率偏最小二乘（PPLS）框架，解决了现有拟合流程中的实际限制。该框架结合了噪声预估、约束似然优化和预测校准，提供了一个端到端的解决方案。该方法利用精确的Stiefel流形优化和噪声子空间估计，在包括多组学数据集在内的各种基准测试中实现了更高的准确性和校准不确定性。
-
LoRA 微调详解：为什么低秩能有效适配大语言模型
本文解释了大语言模型微调的内在低秩假设，详细说明了 LoRA 等技术如何在不改变原始权重的情况下适配模型。文章阐明，LoRA 的表达性更新仅限于秩 r 的子空间，这意味着如果更高的秩超过了任务的内在秩，性能不一定会提高。作者提供了一个可运行的脚本和实证结果，以展示 LoRA 的秩如何影响其拟合必要更新子空间的能力，并表明过度参数化会导致噪声。
-
新的校准度量在机器学习中提供真实预测
研究人员引入了一种名为平均双箱校准误差（ATB）的新校准度量，旨在实现完全真实。该度量量化了预测器与完美校准的偏差程度，当预测器输出真实概率时，该度量达到最小。ATB 与现有的平滑校准误差和校准距离等度量呈二次方关系，其简单性允许高效计算，从而实现了第一个线性时间校准测试算法。
-
新研究确立了在线多校准的最优下界
arXiv上发表的两篇新论文探讨了机器学习中多校准的理论基础。第一篇论文确立了在线多校准的紧确下界，证明了与边际校准在信息论上的分离。第二篇论文研究了批量设置中多校准的样本复杂度，证明了要达到一定的误差容忍度，需要 $\widetilde{\Theta}(\varepsilon^{-3})$ 个样本，且该数量是充分必要的。