Markov chain
PulseAugur coverage of Markov chain — every cluster mentioning Markov chain across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
新的模糊逻辑框架通过动态加权增强群体决策
本文提出了一种名为双模糊概率区间语言术语集（DFPILTS）的新框架，以解决现有群体决策概率语言术语方法中的局限性。所提出的DFPILTS通过定义模糊语义集成、偏好关系和聚合算子，旨在为决策者提供更丰富的信息。它还结合了模糊语言马尔可夫矩阵以及基于信息熵和距离测度的动态属性权重确定方法，以处理时变数据并达成群体共识，并通过投资风险案例研究进行了说明。
-
研究发现：Transformer 可增量学习稀疏注意力模式
本文研究了 Transformer 在高阶马尔可夫链上训练时如何增量学习稀疏注意力模式。研究人员 Oğuz Kaan Yüksel 及其同事观察到，Transformer 的学习过程是先关注统计上最重要的位置，然后专门化不同的模式，他们用微分方程对此过程进行了建模。研究表明，这种分阶段学习（每个阶段代表一个表达能力逐渐增强的模型）对 Transformer 在序列任务中的泛化能力具有启示意义。
-
新的SAGO框架支持实时3D高斯分割
研究人员开发了SAGO（Segment Any Gaussians Online），一个旨在实现3D高斯样条（3DGS）场景实时交互式分割的新框架。与之前需要冗长场景设置时间的先前方法不同，SAGO通过使用虚拟无人机和马尔可夫过程将分割任务重新构建为在线最佳下一视图规划问题，从而消除了这一瓶颈。这种方法可以实现亚秒级分割，支持对象操作和场景编辑等应用，并比现有技术有显著的加速。
-
新的平稳分布理论解释随机森林集成大小调优 · 跟踪 2 个来源
本文介绍了一个理论框架，用于理解随机森林中基于平台的调优过程中集成大小的平稳分布。该研究将中心集成大小建模为生灭马尔可夫链，推导出其平稳分布并表征其散布。研究结果表明，基于平台的调优应被视为一个随机过程，而不是一个确定性的停止规则，这对集成大小的优化方式有影响。
-
新方法优化带马尔可夫噪声的PL-SGD，以改进界限
研究人员开发了一种优化满足 Polak-Łojasiewicz (PL) 条件的光滑目标的新方法，特别是在梯度样本受到马尔可夫噪声影响时。该方法为随机梯度下降 (SGD) 建立了高概率界限，在轻尾情况下是最优的，缩小了现有期望和高概率保证之间的差距。该工作还为重尾马尔可夫梯度引入了一种全样本裁剪块方法，实现了最优依赖于混合时间和尾部指数的高概率随机误差。
-
新的 TD(0) 算法通过单一步长实现鲁棒且快速的收敛
研究人员开发了一种新的线性 TD(0) 算法方法，该方法使用单一的步长调度，无需预先了解曲率参数。这种方法为算法的稳定性和收敛性提供了高概率保证。新的步长调度同时实现了鲁棒的、无曲率的速率和快速的、依赖曲率的速率，为马尔可夫环境中的学习提供了更有效、更稳定的解决方案。
-
新的TR-CIE采样器在函数评估次数有限的情况下提高了离散流匹配的质量 · 已追踪3个来源
研究人员开发了一种名为时间重参数化累积强度外插（TR-CIE）采样器的新型采样方法，用于离散流匹配（DFM）。该方法旨在提高生成模型在离散状态空间上的采样质量，尤其是在函数评估次数有限的情况下。TR-CIE结合了基于调度的重参数化和累积强度外插规则，共同提高了累积强度的近似精度并减少了近似误差。该采样器每步需要一次函数评估，并在文本生成和文本到图像任务等各种基准测试中展示了改进的采样质量。
-
新的Doeblin曲线提供更精细收缩保证
研究人员引入了“Doeblin曲线”的概念，以提供对马尔可夫核多路收缩行为更详细的表征。这种新方法即使对于传统Doeblin系数为零的通道也提供了非空收缩保证。Doeblin曲线量化了在特定散度和幂次水平下，跨输入分布集合的收缩情况。这些发现可应用于噪声迭代优化、带噪声电路的可靠计算以及在线迭代算法的差分隐私等领域。
-
新的DRRL算法通过线性逼近实现有限时间收敛
研究人员开发了一种新的分布鲁棒强化学习（DRRL）算法，即使在使用线性函数逼近的情况下也能提供有限时间收敛保证。该算法解决了现有DRRL方法的局限性，这些方法通常需要表格设置或特定的结构假设。新方法结合了目标网络和对偶函数逼近方案，利用矩跟踪批评者和后缀平均来实现收敛到最优鲁棒Q函数。
-
LLM：从文本处理到符号学和语言层级
该集群探讨了大型语言模型（LLM）的语言学和计算基础。它深入研究了计算机如何处理文本，从基本的标记化和TF-IDF、马尔可夫链等统计方法，到用于创建单词数值表示的Word2Vec等更高级的技术。分析还涉及符号学，运用索绪尔、皮尔士和德里达的理论来解释为什么LLM虽然强大，却不等同于人类心智。此外，它还考察了语言的五个层级——语音学、形态学、句法学、语义学和语用学——以及LLM如何处理这些语言结构。
-
新方法改进马尔可夫链的梯度估计
研究人员开发了一种新颖的方法，用于无偏估计参数化马尔可夫链中平稳均值的梯度。这种新方法对于混合缓慢的链特别有效，并且可以应用于涉及神经网络的参数化。该方法需要一个评估转移密度及其梯度的预言机，可能带来显著的效率提升，理论预测和数值实验均支持这一点。
-
马尔可夫链：从俄国恩怨到人工智能预测算法
马尔可夫链的概念起源于俄罗斯的数学研究，是理解现代预测算法如何运作的基础。这些链对于确定一副洗牌的随机性、计算核弹所需的铀临界质量以及为人工智能系统提供自动补全功能等任务至关重要。这一数学框架支撑着包括LLM、向量数据库和RAG系统在内的各种人工智能应用。
-
新界限增强了强化学习的统计推断能力
研究人员为马尔可夫链诱导的鞅开发了新的高维集中不等式和Berry-Esseen界。这些发现被应用于分析具有线性函数逼近的时间差（TD）学习，这是强化学习（RL）中的一种关键方法。该研究为TD学习提供了强大的一致性保证，并为TD估计量建立了$O(T^{- rac{1}{4}}\log T)$的分布收敛速率。
-
大型语言模型的下一词元预测不仅仅是简单的猜测
大型语言模型（LLMs）仅仅预测下一个词元（token）的概念是一种误导性的过度简化。与生成无意义文本的简单马尔可夫链不同，LLMs 从海量数据集中学习复杂的模式、语法，甚至上下文理解，以生成连贯有意义的输出。这种复杂的预测过程需要模型内化知识和推理能力，以准确预测序列中的后续词元。
-
强化学习理论在Actor-Critic方法上实现新的样本复杂度
研究人员为强化学习中的离策略Actor-Critic方法建立了一个新的理论样本复杂度保证。该论文证明了在最少假设下找到$\\epsilon$-最优策略的第一个$\\tilde{\\mathcal{O}}(\\epsilon^{-2})$样本复杂度，具体要求仅为不可约马尔可夫链。这一成就与先前需要嵌套循环更新或更强的、依赖于算法的策略假设的工作形成对比。
-
新的矩阵解耦集中框架为LLM推理提供了无维度保证
研究人员开发了一个名为矩阵解耦集中（MDC）的新数学框架，以解决评估自回归大型语言模型（LLM）的挑战。现有方法在LLM的高度依赖性token生成方面存在困难，导致稀疏奖励的方差估计膨胀。MDC引入了一个精确考虑因果依赖性和目标敏感性的尖锐不等式，防止了标量坍塌，并为长上下文推理提供了无维度、最优阶的界限。
-
新的马尔可夫矩阵方法可在不遗忘的情况下扩展LLM知识
研究人员引入了一个新颖的框架，通过将知识扩展建模为马尔可夫过程来持续更新大型语言模型（LLM）。该方法将模型记忆表示为转移矩阵，允许通过扩展状态空间来整合新知识，而不会发生灾难性遗忘。提出的令牌到字典映射策略只需要最少的参数更新，并且已被理论证明是样本高效的，实验结果也验证了其有效性。
-
研究人员探索非平衡动力学以增强无监督生成模型
研究人员已证明，通过诱导潜状态周期，非平衡动力学可以增强无监督生成模型。他们的模型使用具有不同转移矩阵的可见变量和隐藏变量，与受限玻尔兹曼机等平衡方法相比，性能更优。通过打破详细平衡并引入不可逆性，该模型可以避免常见陷阱，更准确地重现数据分布。
-
New Bayes Posterior Sampling Method Enhances Large-Data Mixed Models
研究人员开发了一种新颖的随机镜像Langevin动力学算法，用于拟合具有大数据集的贝叶斯广义线性混合模型。该新方法解决了现有随机梯度Langevin动力学在采样协方差参数时可能导致马尔可夫链发散的局限性。所提出的算法包括一个后处理步骤，以准确估计后验方差，从而减轻数据子采样引入的偏差，并通过模拟和一项关于乳腺癌幸存者的研究进行了验证。
-
新平台可自主从用户行为数据生成洞察
研究人员推出行为智能平台（BIP），这是一个旨在从原始事件流自动生成洞察的新颖系统，超越了传统的基于查询的分析。BIP采用四层架构，包括状态推导、模拟用户旅程的行为图引擎、用于事实提取的知识图谱以及用于生成可靠叙述性洞察的基于语言的层。该系统旨在解决当前产品分析工具的局限性，这些工具要求用户具备技术熟练度和预定义的问题。