Jax
PulseAugur coverage of Jax — every cluster mentioning Jax across labs, papers, and developer communities, ranked by signal.
- used by reinforcement learning 90%
- used by Orbax Distributed Checkpointing With Jax 90%
- used by graphics processing unit 70%
- developed by reinforcement learning 70%
- used by Hugging Face Transformers 70%
- used by NumPy 70%
- used by NVIDIA H100 70%
- instance of robotics 70%
- developed by Orbax Distributed Checkpointing With Jax 70%
- used by robotics 70%
15 天有情绪数据
-
博士论文探讨可微射线追踪用于无线电传播建模
一篇关于可微射线追踪用于无线电传播建模的博士论文已发表，旨在作为一本易于理解的教科书。该研究将自动微分与射线追踪相结合，以计算穿过物理环境的精确梯度，从而实现逆问题求解和下一代无线设计机器学习模型的直接训练。该工作强调可复现的开源软件，并基于现有的JAX软件包。
-
Gemma-3 通过 GRPO 和 LoRA 增强数学推理能力
本教程详细介绍了如何训练 Gemma-3 模型，利用 GSM8K 数据集来提高其结构化数学推理能力。该过程包括使用 Tunix、JAX 和 LoRA 适配器等工具设置环境，然后应用具有自定义奖励函数的 Grouped-Sampled Policy Optimization (GRPO)。训练侧重于仅优化适配器权重，使工作流程足够高效，可在单个加速器上运行。
-
大型语言模型需要边界，反映家庭餐桌的依赖性
作者认为，当前对大型语言模型（LLMs）的关注忽视了关键的依赖性，将机房复杂的基础设施与同样至关重要的家庭餐桌依赖性进行了比较。他们认为，LLMs虽然是强大的工具，但由于缺乏证据保管和过度声称的可能性，可能会造成虚假的安全感和责任感。文章强调需要通过严格的测试来建立边界和赢得信任，而不是仅仅依靠数量或速度，并借鉴了控制论以及人际关系和关怀的基础教训。
-
新框架使用图流进行带缺失数据的安全检索
研究人员开发了一个名为“电导修复证据图”的新框架，用于前瞻性安全检索。该方法通过以时间戳方式处理来自各种渠道（如 CVE 描述和修复提交）的证据，来应对操作分类的挑战。系统不依赖学习的预测器来处理缺失数据，而是使用确定性的图流递归来扩展不完整的通道，并发出详细说明该过程的修复证书。理论基础包括用于识别缺失通道的自适应下界和最小有害修复的 NP-hard 性结果。
-
新的Python包'autonugget'简化了机器学习原型设计中求解病态线性方程组的难度
研究人员推出了一款名为“autonugget”的新Python包，旨在简化依赖于求解病态线性方程组的机器学习算法的快速原型设计。该包解决了传统Tikhonov正则化反演带来的挑战，特别是选择nugget大小的困难以及与自动微分的不兼容性。Autonugget利用Richardson外推法执行多次线性求解，从而提高端到端训练的准确性和稳定性。
-
新工具包统一连续吸引神经网络研究
研究人员开发了 CANNs，一个全面的开源工具包，旨在统一连续吸引神经网络 (CANNs) 的研究工作流程。该工具包集成了用于构建各种 CANN 模型的 Python 库、用于性能加速的 Rust 后端以及用于检测神经记录中吸引子签名的分析器管道。目标是通过提供标准化工具和可复现的管道来解决 CANN 研究中的碎片化问题。
-
新的JAX框架加速了渗透测试的强化学习
研究人员开发了NASimJax，一个基于JAX的新框架，旨在加速渗透测试的强化学习（RL）。该框架显著提高了现有模拟器的速度，使得在比以往更大、更复杂的网络场景中进行训练成为可能。该系统引入了一种处理大动作空间的新方法，并研究了提高跨不同网络拓扑的零样本策略泛化能力的方法。
-
Weights & Biases 通过广泛的框架集成简化了 ML 实验跟踪
Weights & Biases (W&B) 提供了一个全面的机器学习实验跟踪平台，用于记录指标、配置和工件。该平台与 PyTorch、TensorFlow 和 Hugging Face 等流行的 ML 框架集成，并提供用于运行可视化和比较的 Web 仪表板。W&B 旨在简化从训练到部署的 ML 开发生命周期。
-
新的GPU加速MPC求解器TurboMPC实现了显著的加速
研究人员开发了TurboMPC，一种专为在GPU上高效执行而设计的新型模型预测控制（MPC）求解器。该求解器通过处理状态和控制不等式约束、隐式积分器以及跨时间耦合成本，支持复杂的机器人应用。TurboMPC结合了序列二次规划（SQP）、ADMM、隐式微分和JAX-CUDA实现，实现了比现有CPU和GPU求解器显著的速度提升。其性能已在约束规划、模仿学习和强化学习的模拟中得到验证，并成功部署在一辆实体汽车上进行最短时间赛车，性能优于手动调优的基线。
-
新的SOLAR框架自动化深度学习模型性能分析
研究人员开发了SOLAR，一个旨在自动分析深度学习模型性能的新框架。SOLAR计算给定工作负载在特定硬件上的理论最小执行时间，解决了当前方法手动且易出错的缺点。该框架结合了生成式和确定性组件，包括一个LLM前端，用于将源代码转换为中间表示，以及一个分析后端，用于计算性能边界。
-
超级人工智能代理使用自玩 RL 主导 Generals.io
一篇新的研究论文详细介绍了为实时战略游戏 Generals.io 创建的超级人工智能代理。该代理在高端 GPU 上训练了四天，在超过 5,000 名人类玩家中达到了最高排名，并展示了对顶尖人类竞争对手的显著胜率。通过一个高度优化的、原生 JAX 的模拟器实现了这一开发，该模拟器达到了每秒数千万帧的速度，极大地减少了训练的数据瓶颈。
-
开发者在 MacBook 上从零开始构建语言模型
一位开发者详细介绍了他们仅使用 MacBook 从零开始构建语言模型的经验，摒弃了 GPU 和云服务。该项目提供了对 ChatGPT 等模型内部工作原理的见解，并强调了 JAX 作为机器学习工具的实用性。该尝试旨在通过展示一种可行但资源受限的创建方法来揭开大型语言模型的神秘面纱。
-
新GARIP方法增强零和博弈中自博弈的收敛性
研究人员推出了一种新颖的用于改进双人零和博弈中自博弈的方法，名为GARIP。与使用固定或定期更新参考的方法不同，GARIP利用过去策略的运行平均值。该方法在理论上被证明可以最小化参考值的峰值滞后，从而实现更稳定的收敛。在包括矩阵博弈以及Connect Four和Othello等棋盘博弈在内的各种博弈上的实验表明，GARIP在鲁棒性和默认超参数设置方面，表现与现有方法相当或更优。
-
为可解释人工智能研究创建了可微分的 Atari 2600 模拟器
研究人员开发了一个完全可微分的 Atari 2600 视频游戏系统模拟器，分别命名为 jutari 和 jaxtari，并分别用 Julia 和 JAX 实现。该系统通过将游戏卡带 ROM 视为权重、RAM 视为软磁带、控制流视为门，为可解释人工智能 (XAI) 研究提供了复杂且已知的真实情况。JAX 版本能够在 GPU 上以每秒数百万个环境步长的速度进行批量可微分的 rollout，全部代码在 MIT 许可下发布。
-
研究人员寻求库来发布新的优化算法
一位研究人员正在寻求关于发布他们新开发的 QQN 二次拟牛顿优化算法的最佳库的建议。他们已经在 Rust、Java 和 JavaScript 中实现了该算法，但希望将其移植到一个更广泛使用的框架中以供社区评估。研究人员正在寻找一个强类型、接近底层的选项，并对 argmin 等潜在库的开发活跃度表示担忧。
-
新的CRAX基准测试加速了安全强化学习的评估
研究人员推出CRAX，这是一个旨在加速安全强化学习（RL）代理评估的新基准测试。CRAX使用MuJoCo XLA物理引擎构建，与基于CPU的基准测试相比，速度提升高达100倍，使其适用于机器人和自动驾驶等现实世界应用。该基准测试包含六个环境套件和三个特定代理任务，每个都有不同的难度级别。对六种流行的安全RL方法的初步评估表明，没有一种方法是普遍优越的，突显了性能和安全之间的权衡，并表明课程学习可以提高在更具挑战性场景中的性能。
-
新框架将神经符号学习与神经网络统一起来 · 跟踪2个来源
研究人员开发了 NeSyCat Torch，一个将范畴语义与神经网络相结合用于神经符号学习的新框架。该实现可在 HaskTorch、JAX 和 PyTorch 中使用，旨在通过提供单一的归纳真理定义来统一碎片化的语义系统。该系统在 MNIST 数据集上表现强劲，在速度和准确性方面均优于现有方法，同时保持了适用于各种神经符号方法的统一框架。
-
新的智能体框架可自动迁移 PyTorch 到 JAX 的深度学习模型
研究人员开发了一个自主系统，用于将深度学习模型从 PyTorch 迁移到 JAX，这一过程通常是手动且容易出错的。他们的框架结合了上下文学习 (ICL) 和一个由预言机驱动的自调试方法。通过使用实际的 PyTorch 模块输出来作为执行预言机，并利用智能体循环进行自我纠正，该系统在神经网络模块上实现了 91% 的数值等效性，显著优于先前的方法。
-
谷歌DiffusionGemma LLM采用扩散架构实现每秒1000个token
Google DeepMind发布了DiffusionGemma，这是一款开源LLM，它利用扩散架构进行文本生成，与传统的自回归模型相比，推理速度显著提高。该模型在单个H100 GPU上每秒可处理多达1000个token，且仅需18 GB VRAM，使其能够高效地在单GPU上部署。虽然它在速度上牺牲了一些准确性，但在代码填充和实时应用等任务中表现出色，并且还支持包括图像和视频在内的多模态输入。
-
将基于代理的模型调整为洛特卡-沃尔泰拉动力学
研究人员开发了一种方法，可以将基于代理的捕食者-猎物模型调整为更好地符合洛特卡-沃尔泰拉动力学。该方法使用基于特征的损失函数来优化环境和人口参数，奖励持续的振荡、相位滞后和种群有界性。该模型在基于 JAX 的 ABMax 框架中实现，允许在硬件加速器上进行高效、批处理的模拟，从而能够进行更复杂的自适应系统模拟。