Leonhard Euler
PulseAugur coverage of Leonhard Euler — every cluster mentioning Leonhard Euler across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
Stable Diffusion 用户就 H3 Image LCM 与 Euler 采样器展开辩论
Reddit 的 r/StableDiffusion 子版块上一位用户正在征求关于两种图像生成配置的意见:H3 Image LCM 搭配 Normal 调度器,以及 Euler 搭配 Simple 调度器。该用户展示了使用相同提示、种子和分辨率生成的并排比较图,指出 LCM/Normal 组合产生了更精美的视觉效果,而 Euler/Simple 组合则提供了更粗糙的纹理,但往往会产生更多错误。该用户尚未决定偏好哪种配置。
-
Stable Diffusion 采样器对比显示对图像质量有显著影响
一位 Reddit 用户对 Stable Diffusion 中使用的不同采样器进行了比较分析,重点关注了 Euler、DPM++ 2M、Aichi AB-2 和 AB-3 在 8、12 和 16 步长下的表现。测试使用了 Anima、Krea.2 和 Flux3-Klein INT8 等流模型。结果表明,采样器的选择对图像生成有显著影响,与 DPM++ 2M 和 AB-2/AB-3 相比,Euler 在较低步数下通常会产生更暗淡、细…
-
调查发现:数学专业学生在人工智能进步的背景下对职业前景失去信心
对早期职业数学家的一项最新调查显示,职业前景发生了重大转变,约 70% 的受访者对该领域的未来表示怀疑。这种情绪自 7 月中旬以来出现,恰逢围绕人工智能对数学潜在影响的讨论。作者将此与历史上消亡的科学学科进行了类比,认为数学虽然不会完全消失,但可能会转变为主要由机器进行的领域,人类的参与将变得次要。
-
新的强化学习方法以对数遗憾界限解决扩散控制问题
一篇新研究论文介绍了一种用于受控扩散的新型强化学习方法,特别解决了高频控制问题中的时间离散化问题。所提出的方法,称为频率均匀对数遗憾强化学习,旨在即使在时间步长减小时也能保持性能保证。该论文展示了基于价值的周期性强化学习的 O(log K) 遗憾界限,常数在不同时间步长下是均匀的。
-
新框架优化生成ODE采样效率
研究人员开发了一个新框架,以提高生成ODE采样的效率,特别是在低网络函数评估(NFE)场景下。这种密度级后向误差方法识别求解器缺陷如何影响演变的边际分布,并将其与轨迹失真分离开来。该框架提供了一个计算分配规则,可以优化流网络评估的分布,从而在CIFAR-10等数据集上提高采样精度和速度。
-
自适应步长采样器改进 ComfyUI 图像生成
一个名为自适应步长采样器(Adaptive Step Samplers)的新开源项目已发布,为扩散模型中的图像生成提供了改进的方法。该项目修改了 ComfyUI 中的 SA-Solver,允许调整随机强度(eta),解决了现有采样器(如 Euler 和祖先采样器)的局限性。SA-Solver 最初来自 Xue 等人(NeurIPS 2023),现在在低步数下能更好地保留纹理和解剖结构,为图像生成提供了更优的选择。
-
MOSS Image 模型优化:对 Stable Diffusion 的采样器和调度器进行测试
一位 Reddit 用户分享了他们在使用 MOSS Image 模型(Stable Diffusion 的一个变体)优化图像生成方面的发现。他们测试了各种采样器和调度器,并推荐了 dpmpp_sde/radiance_shift 等组合以获得更好的提示遵循性。该用户还指出,某些调度器倾向于生成亚洲女性的图像。他们的测试是在使用 SFT 模型、8 步 SFT lora、强度为 0.7 以及分辨率为 1536x1536 的情况下进行的,每…
-
TraceSampler 方法以最小的开销纠正生成式采样错误
研究人员开发了 TraceSampler,这是一种新颖的训练后方法,旨在纠正连续时间生成模型中的采样错误。该技术将端点误差建模为特定于样本的预测问题,使用从采样轨迹派生的紧凑表示来预测和纠正这些错误。在 CIFAR-10、ImageNet-256 以及使用 SD3.5 Medium 进行文本到图像生成上的评估表明,与传统方法相比,轨迹均方误差显著降低,生成质量得到改善,且模型评估次数大大减少。
-
新的FT-PINN方法提高了AI在激波模拟中的准确性
研究人员开发了一种名为特征跟踪物理信息神经网络(FT-PINN)的新方法,以提高神经网络在模拟具有激波的守恒定律时的准确性。传统的物理信息神经网络由于数据点分布不均,在处理激波时存在困难,导致解决方案不准确。FT-PINN通过在固定参考域上定义解,并将其与变形图组合来解决这个问题,使得数据点能够集中在激波等特征上,而无需预先知道其位置。与标准的PINN相比,该方法在各种测试问题上准确解析激波方面表现出优越的性能。
-
LLM 通过编程任务,测试套件缺陷暴露
对一个语言模型进行编写小程序的能力测试,令人惊讶的结果是模型表现良好,但测试套件本身被发现存在缺陷。测试套件使用属性预言机来验证程序输出,包括已知值、变态属性、结构检查和暴力验证。尽管生成器通过了大多数操作,但大量操作在多次运行中持续失败,表明是测试套件存在问题,而非模型的能力。一个仅重新格式化程序标准输出的包装器揭示了原始测试套件拒绝了正确的程序。
-
Transformer模型可执行上下文内数据生成,模拟生成式采样器
研究人员已证明,大型语言模型(特别是Transformer模型)可以充当数据生成的上下文内采样器。该研究证明,这些模型可以模拟迭代式生成采样器,将上下文内学习的范围从监督学习扩展到数据生成。这是通过识别softmax注意力在计算责任权重和经验平均值中的生成作用,以及前馈层执行欧拉更新来实现的。实证表明,当Transformer模型遇到与特定语义主题相关的提示时,它们可以近似能量模型采样器。
-
新研究探索参数雅可比矩阵在神经网络稳定性中的作用
本文在学习模型和神经切线核(NTK)的框架下,探讨了网络输出的稳定性。研究表明,线性化动力学自然地导出了半群公式,通过希尔伯特空间上线性算子的特殊半群来呈现时间动力学。该研究提供了新的、明确的先验扰动界限结果,包括NTK构造的有限时间扰动估计以及对非自治NTK演化的扩展。
-
新研究探索扩散模型优化和控制技术 · 已追踪 4 个来源
研究人员正在探索扩散模型的先进方法,重点是优化采样过程和控制分布。一篇论文介绍了“优化你的采样”(OYS),这是一种贝叶斯优化技术,可调整文本到图像和修复任务的采样时间步长,从而在降低推理成本的同时显著提高质量。另一项研究提出了一个用于推理时分布控制的均场框架,为引导扩散模型走向期望分布提供了理论保证,可应用于蛋白质构象等任务。第三篇论文全面介绍了通用状态空间中的扩散模型,统一了连续和离散域,重点关注理论基础和训练原则。最后,第四篇论…
-
新AI框架通过高级控制解决非配对图像翻译问题
研究人员开发了两个新的非配对图像到图像翻译框架,该任务涉及在不依赖配对示例的情况下改变图像的外观同时保留其内容。PRISM 使用分布门控流匹配方法来控制哪些特征被改变以及哪些被保留,在各种基准测试中取得了优异的结果。另一方面,UniCycleFlow 将双向翻译构建为单个时间条件速度场,从而实现双向连贯的转换,并在平均 FID 分数上优于现有方法。
-
ComfyUI 为 MiniMax H3 添加 Spectrum 加速,缩短采样时间
ComfyUI 发布了一个新的 "Spectrum" 节点,用于加速 MiniMax H3 模型。该节点用谱特征预测替换了一些计算成本高昂的 Transformer 评估,从而显著提高了速度。基准测试显示,Euler 采样器的采样时间减少了 34%,RES 多步采样器的采样时间减少了 29.6%,且输出质量没有明显下降。开发者计划通过启用特征历史的 VRAM 存储来进一步优化性能。
-
开发者从零开始用 C/CUDA 构建 GPT-2 规模模型
一位开发者创建了 NanoEuler,一个完全从零开始使用 C/CUDA 构建的 GPT-2 规模语言模型,摒弃了 PyTorch 等常用 AI 库。该项目侧重于工程方面,具有手动编写的训练前向和后向传播。该模型拥有约 1.16 亿个参数,可以在单个消费级 GPU 上进行训练,并展示了学习到的语法和百科全书式的知识,尽管由于其规模而缺乏现实世界的知识。
-
新的随机微分方程方案误差估计有助于非对数凹采样
研究人员为随机微分方程(SDEs)的数值方案开发了新的误差估计框架。这些框架为驯服的未调整 Langevin 算法(kTULA)和新的驯服随机中点方案(tRLMC)提供了有限时间、非渐近误差界限。该研究为从非对数凹分布采样提供了近乎最优的迭代复杂度,并为非凸优化问题提供了非渐近保证。
-
Transformer as an Euler Discretization of Score-based Variational Flow
研究人员提出了一个名为基于分数的变分流(SVFlow)的新理论框架,它为表示学习提供了一个连续时间动力学系统视角。该框架表明,Transformer架构可以被视为SVFlow的精确前向欧拉离散化。论文详细介绍了Transformer中的多头注意力、MoE/FFN层以及残差归一化块如何对应于SVFlow矢量场及其几何属性的近似。