probably approximately correct learning
PulseAugur coverage of probably approximately correct learning — every cluster mentioning probably approximately correct learning across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
量子机器学习在可证明的学习分离方面超越经典方法
研究人员展示了在预测量子多体系统时间演化方面的可证明学习分离。该研究发表在arXiv上，概述了一个监督学习问题，其中量子机器学习可以从短时间训练样本中有效地学习未知的哈密顿量。这与经典算法形成对比，经典算法面临计算上的困难，除非BQP包含在P/poly中，这突显了基于哈密顿量演化的自然机器学习任务的严格分离。
-
新研究利用PAC学习解决科学发现的复杂性问题
一篇新的研究论文通过PAC学习的视角，重点关注组合函数树，探讨了科学发现的样本复杂度。该研究证明了泛化量Rademacher复杂度受限于树的深度及其算子的Lipschitz常数，而不是指数增长。作者开发了一个可训练可微算子树的代码库，并通过实证证明泛化差距与其预测复杂度相关。
-
新的组合条件解决了 Proper Positive-Only Learning 问题
研究人员解决了机器学习中一个长期存在的关于 proper positive-only learning 的问题。该研究确立，如果一个概念类具有有限的 VC 维度并满足一个称为 uniform exterior separability 的新条件，那么它就可以从仅有正样本中进行 proper 学习。这一表征突显了与标准 PAC 学习的显著差异，包括 proper 和 improper 学习之间，以及确定性和随机 proper 学习之间的分离。
-
用于外生上下文MDP学习的新minimax PAC界限
研究人员为外生上下文马尔可夫决策过程（MDP）中的学习开发了新的minimax PAC界限。该研究侧重于具有外生、独立同分布（i.i.d.）上下文的表格折扣MDP，这些上下文会影响奖励和转移。所提出的算法在策略评估、最佳值估计和最佳策略提取方面提供了改进的样本复杂度，其速率独立于上下文空间大小且是minimax最优的。
-
新研究详细介绍了 Bandit 学习算法的样本复杂度
两篇新研究论文探讨了多类别分类设定下 Bandit 学习算法的样本复杂度。第一篇论文引入了“Bandit DS 维度”来表征 Bandit 反馈下的 PAC 学习样本复杂度，并提出了一种名为 ListCascade 的新算法。第二篇论文专注于稀疏上下文 Bandit，提出了一种通过利用奖励向量的稀疏性和分析决策估计系数 (DEC) 来实现改进样本复杂度界限的算法。两篇论文都旨在为标签信息不完整的学习场景提供更严格的理论保证。
-
新理论定义了机器学习模型可学习性的最优规模
研究人员引入了一个名为Scale-Sensitive Shattering的新理论框架，用于理解机器学习模型可学习性和均匀收敛的最优规模。研究结果在特定规模下建立了均匀收敛、无偏学习和fat-shattering维度之间的等价关系。这项工作反驳了一个长期存在的猜想，并为度量熵提供了更紧密的界限，对积分概率度量具有启示意义。
-
新框架应对代理不确定性下的轨迹规划
研究人员开发了一个新的交互式轨迹规划框架，该框架考虑了其他代理决策中的不确定性。该方法结合了 Probably Approximately Correct (PAC) 学习和分布鲁棒 (DR) 优化，创建了一个能够解决由学习到的决策分布引入的错误的解决方案。结果 PAC 学习的 DR-MPC 框架可以根据可用数据的量，在鲁棒模型预测控制和全知随机模型预测控制之间进行有效插值。
-
新的 SGDe 框架为小型语言模型编译工作流
研究人员开发了语义梯度下降（SGDe），一种新颖的师生框架，旨在将复杂代理工作流编译成确定性结构，以用于部署小型语言模型到企业环境中。该方法使用一个前沿 LLM 作为教师来生成批评，这些批评充当梯度，用于优化小型模型的执行计划，包括 DAG 拓扑和系统提示。SGDe 在具有挑战性的数据集上展示了显著的准确性提升，通过利用教师模型作为统计先验并以最少的训练示例实现收敛，从而优于当前的提示优化技术。