Apple Machine Learning Research
PulseAugur coverage of Apple Machine Learning Research — every cluster mentioning Apple Machine Learning Research across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
Apple ML Research 提出基于评分标准的问答对齐方法
Apple Machine Learning Research 发表了一篇论文，详细介绍了一种用于开放域问答的新型基于评分标准的奖励框架。该框架旨在通过将答案质量分解为多个维度（例如，构成、事实依据和指令遵循），而不是依赖单一标量目标来提高答案质量。该方法使用基于检索到的证据的事实依据的查询特定评分标准，在各种评估数据集上显示出比现有方法显著的改进，尤其是在事实支持和连贯性方面。
-
Apple 的 PROOF-Gen 方法通过从失败中改进 AI 模型蒸馏
Apple Machine Learning Research 推出了 PROOF-Gen，这是一种用于将工具调用能力蒸馏到可部署 AI 模型中的新方法。该技术通过每种场景的提示优化，从教师模型失败的尝试中恢复有价值的轨迹，从而解决了传统生成-过滤蒸馏的局限性。PROOF-Gen 分析执行跟踪和反馈，以指导教师模型取得成功，显著提高了蒸馏模型的质量和可转移性，即使在非英语地区也是如此。
-
研究发现 LLMs 在贝叶斯推理和信念更新方面存在困难 · 跟踪 4 个来源
近期研究表明，大型语言模型（LLMs）在一致地表示和更新概率信念方面存在困难，而这对于复杂领域中的决策至关重要。研究发现，LLMs 在处理证据时常常表现出内部不一致性，有时非贝叶斯启发式方法在下游任务中的表现优于精确的贝叶斯更新。这表明 LLMs 的内部世界模型可能被错误指定，导致认知短视和校准不当，尤其是在处理长尾事实或隐藏信息时。
-
Apple发布Luce，用于高保真3D资产生成
Apple Machine Learning Research推出了Luce，一种新颖的3D资产生成系统，它将几何体和基于物理的渲染（PBR）材质统一在一个体素化的多模态高斯云中。通过整合反照率、金属度-粗糙度以及表面法线等模态，这种表示方法允许进行重照明并集成到标准的渲染管线中。Luce利用变分自编码器和整流流Transformer从单个图像生成这些PBR高斯，在Toys4K基准测试上取得了最先进的成果，FID提高了28%，并提升了…
-
新框架提升AI视频推理效率与准确性
研究人员正在开发用于大型语言模型视频推理的先进方法，旨在提高效率和准确性。Apple的内部化视觉思维（IVT）框架训练模型在内部预测视频的未来状态，与生成中间推理图像相比，降低了推理开销。同时，其他方法侧重于从长视频中提取相关证据，例如PACE，它使用问题派生的因素和候选答案来指导证据获取。新的数据集和基准，如Very Big Video Reasoning (VBVR) Suite和VBVR-Pro，正在被引入，以促进大规模视频推理…
-
苹果研究人员详细介绍AI代理的P-完备查询评估
Apple Machine Learning Research 发表了一篇论文，详细介绍了倒排索引遍历的P-完备性，探讨了在倒排索引上评估复杂布尔查询的理论极限。该论文引入了一种名为ComputePN的新算法，旨在通过将逻辑否定与全域物化解耦并利用DAG记忆化来使查询评估变得可行。这种方法限制了评估时间，克服了现有有状态迭代器和递归物化模型的局限性，为计算检索奠定了形式基础。
-
Apple ML Research 发布 MVICAD2 用于多视图数据分析
Apple Machine Learning Research 推出了 MVICAD2，一种分析多视图数据的新颖方法，尤其是在神经科学领域。该技术通过考虑不同被试信号中的时间延迟和膨胀来扩展现有模型，这对于理解脑磁图中的大脑活动动态至关重要。在模拟中，MVICAD2 表现出优于现有多视图独立成分分析方法的性能，并已使用 Cam-CAN 数据集进行了验证，以显示其与衰老的关系。
-
Apple ML Research 将图算法应用于UMAP的内部kNN图
Apple Machine Learning Research 发表了一篇论文，详细介绍了标准图算法如何应用于Uniform Manifold Approximation and Projection (UMAP) 构建的内部k近邻（kNN）图。该方法旨在通过利用UMAP投影扭曲数据流形之前的图表示来增强数据理解能力。研究表明，PageRank、k-core分解和聚类系数等算法可以有效地识别代表性数据点、密集区域和紧密连接的邻域，为样…
-
Apple发布GH-ESD用于发现视觉模型错误
Apple的机器学习研究团队推出GH-ESD，一个用于发现视觉任务中实例级误差切片的新颖框架。该方法将切片发现重新构建为基于假设生成和统计验证，利用大型语言模型和视觉-语言模型构建关系性故障假设。GH-ESD旨在提高模型在目标检测和分割等任务中的鲁棒性和评估能力，在一个新的基准数据集上显著优于现有方法。
-
Apple 发布 RayRoPE 用于多视图 Transformer 位置编码
Apple Machine Learning Research 推出了 RayRoPE，一种专为多视图 Transformer 设计的新型位置编码方法。这种新方法独特地编码图像块，实现 SE(3)-不变注意力，并适应场景几何。RayRoPE 使用相关的射线及其上的预测点来表示图像块位置，从而实现几何感知编码。它在新视图合成和立体深度估计等任务上展示了显著的改进，性能优于现有的位置编码方案。
-
Apple ML Research 推出用于大型数据的快速交互式证明
Apple Machine Learning Research 发表了一篇论文，详细介绍了“Doubly Sub-linear Interactive Proofs of Proximity”（dsIPPs）。这些证明允许通过仅读取大型输入的一小部分来实现超快速生成，并且近似验证速度更快。该研究为可由恒定宽度单次读取的不可知分支程序决定的属性构建了这样的证明系统，并探讨了用于证明关于输入汉明权重和图双向性的近似断言的应用。
-
Apple ML 研究：函数性质与分布性质在验证上的区别
Apple Machine Learning Research 发表了一篇论文，详细阐述了函数的位置不变性与分布性质之间的区别。研究强调，尽管这两种性质的测试可能密切相关，但它们的验证过程却存在显著差异。该论文为几种位置不变的函数性质引入了双亚线性交互式证明（IPP），证明了验证的复杂性可能远低于测试。这与分布性质形成对比，后者已被证明缺乏类似的双高效 IPP。
-
Apple 发布 SRLM 以增强长上下文语言模型的推理能力
Apple Machine Learning Research 推出了一个名为 Self-Reflective Program Search for Long Context (SRLM) 的新框架。该框架旨在通过使用不确定性感知的自反思来评估和选择用于上下文交互的程序，从而改进语言模型处理长上下文的方式。SRLM 利用自洽性、推理轨迹长度和口头表达的置信度等信号，在相同的时间限制内，性能提升高达 22%，优于现有的递归语言模型 (R…
-
新的大语言模型研究涵盖多模态对齐、推理审计和能源使用 · 已追踪 10 个来源
近期研究探讨了大语言模型（LLM）能力和局限性的各个方面。一项研究调查了多模态大语言模型的对齐问题，提出了一种新的数据生成方法来提高图像-文本一致性。另一篇论文介绍了一种用于评估大语言模型推理的协议级审计，突出了基准分数与实际行为属性之间的差异。进一步的研究利用围棋死活题探究了大语言模型的推理效率，揭示了当前模型在搜索组织方面存在困难。此外，还有研究考察了大语言模型的能耗、默认设置和代币定价对推理服务的影响，以及低资源编程语言基准的开发。
-
新方法增强在线策略蒸馏以进行AI模型训练 · 已追踪6个来源
研究人员正在开发新的在线策略蒸馏方法，这是一种通过让较小的AI模型学习较大、能力更强的模型的输出来训练这些较小模型的技术。Apple Machine Learning Research 引入了一个诊断框架，用于分析在线策略蒸馏在何处以及为何有效，发现该信号在学生模型不正确的输出时更有益。同时，Veto 和 RG-OPD 等新方法通过重新构建蒸馏目标或使用验证器反馈来过滤不可靠的教师信号，旨在稳定训练。此外，ReOPD 提供了一种离环境…
-
Apple ML Research 攻克长时音频解码难题
Apple Machine Learning Research 发表了一篇题为《长时音频编码的分段注意力解码》的论文。该研究通过提出四项改进来解决基于注意力的编码器-解码器模型在处理长音频片段时存在的局限性。这些改进包括注入位置编码、使用扩展声学上下文进行训练、片段连接和语义分割，以提高准确性并实现自回归解码。
-
Apple发布TopoPrimer以提高预测模型准确性
Apple Machine Learning Research推出了TopoPrimer，一个旨在通过整合时间序列数据的全局拓扑结构来增强预测模型的新框架。该方法利用持久同调和谱层坐标来提供明确的拓扑上下文，从而提高准确性和稳定性，尤其是在季节性需求高峰和冷启动场景下。在Chronos和TimesFM等模型上的基准测试显示，TopoPrimer在冷启动情况下将平均绝对误差降低了高达27%，并在高峰需求期间保持了预测稳定性。
-
苹果研究人员发现RL微调的视觉语言模型（VLMs）易受文本扰动影响
来自Apple Machine Learning Research的研究人员发现，经过强化学习（RL）微调的视觉语言模型（VLMs）存在显著的漏洞。虽然RL微调可以提高在视觉推理基准上的性能，但这些模型对文本扰动（如误导性标题或错误的思维链（CoT）追踪）表现出明显的易感性。研究发现，闭源模型尽管存在类似的失败模式，但与开源模型相比，其鲁棒性和推理一致性更强。这表明当前开源RL微调技术存在局限性，而非固有的任务限制，并突显了准确性-忠…
-
Apple研究：LLM团队未能有效利用专家知识
来自Apple Machine Learning Research的一篇新论文揭示，多智能体大型语言模型（LLM）团队在利用专家知识方面存在困难，在ML基准测试中表现比单体专家差41.1%。与人类团队不同，这些AI团队倾向于平均化专家和非专家的意见，而不是恰当地权衡专业知识，这种现象被称为“整合性妥协”。这种行为随着团队规模的增大而恶化，并在模型对齐和有效利用专业知识之间产生了权衡，突显了自组织多智能体系统在利用集体智能方面存在的重大差距。
-
苹果研究人员通过新的解码技术推进扩散语言模型
苹果的机器学习研究部门发表了几篇论文，详细介绍了扩散语言模型（dLLMs）的进展。与自回归模型相比，这些模型通过并行解码多个 token，有可能实现更快的推理。研究包括探索用于口语模型的连续扩散、通过残差上下文扩散（RCD）提高 dLLM 的效率，以及使用强化学习训练解遮蔽策略。其他工作则侧重于通过专家产品（PoE）等技术弥合扩散模型和自回归模型之间的差距，并开发统一不同解码策略的混合模型。