Finite Scalar Quantization
PulseAugur coverage of Finite Scalar Quantization — every cluster mentioning Finite Scalar Quantization across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的RFSQ方法通过改进信号条件增强神经压缩
研究人员开发了鲁棒残差有限标量量化（RFSQ），这是一种新的方法，通过解决多阶段量化中残差幅度衰减的问题来改进神经压缩。RFSQ 结合了可学习的缩放因子和可逆层归一化，以在量化阶段保持信号强度。实验表明，与现有方法相比，RFSQ-LayerNorm 在音频重建方面提高了 3.6%，在 ImageNet 上的 L1 和感知损失方面取得了显著的提高。
-
新的有序动作分词方法增强了机器人的视觉运动策略学习
研究人员推出了一种新颖的有序动作分词（OAT）方法，用于将连续的机器人动作块离散化为有序的令牌。该方法旨在通过提供高压缩率、完全可解码性和有序令牌空间来改进视觉运动策略学习，从而增强与下游策略的兼容性。OAT 利用带有寄存器、有限标量量化和诱导排序的 Transformer 进行训练，在推理成本和动作保真度之间实现了随时可变的权衡，并在模拟和真实世界的各种策略骨干和任务中展示了强大的性能。
-
新AI方法生成无标签的3D家具编码
研究人员开发了一种新的方法，可以在无需显式标签或姿态标注的情况下生成3D家具模型。通过使用在3D-FUTURE数据集上训练的有限标量量化自编码器，该系统可以提取捕捉类别信息和物体方向的有意义的编码。然而，这些编码在未见过的数据集（如ShapeNet）上的迁移能力取决于家具的形状，类箱体物体的迁移能力优于有机形态。
-
新的Latent Drift框架改进了神经退行性疾病的预测
研究人员开发了一个名为Latent Drift的新生成框架，利用纵向MRI数据改进对缓慢发展的神经退行性疾病的预测。该方法通过学习压缩语义表示中的变化，而不是合成全分辨率解剖结构，来解决身份崩溃和连续插值陷阱等挑战。在3D脑部MRI数据上的实验表明，与现有的基线模型相比，Latent Drift增强了患者特异性的神经预测能力。
-
新的GPC框架实现了角色动画中可迁移的运动控制
研究人员开发了生成式预训练控制器（GPC），这是一个用于创建物理角色动画可重用运动控制策略的新框架。GPC利用GPT风格的自回归Transformer来建模通过有限标量量化（FSQ）学习到的庞大“运动词汇”。这种方法通过下一个词元预测生成控制，在重现运动片段方面取得了99.98%的成功率，并展示了响应和恢复动作等涌现行为。