Shinichi Shirakawa
PulseAugur coverage of Shinichi Shirakawa — every cluster mentioning Shinichi Shirakawa across labs, papers, and developer communities, ranked by signal.
-
OnDeFog 增强了在丢帧环境下的强化学习性能
研究人员推出 OnDeFog，这是强化学习领域的一项进展，旨在处理丢帧问题。丢帧是由于通信延迟或传感器故障而在实际应用中普遍存在的问题。该新方法将 DeFog 的丢帧缓解技术与在线决策Transformer (ODT) 的在线学习能力相结合。实验结果表明，在丢帧率高的环境中，OnDeFog 的性能优于 ODT；在处理包含大量低回报数据的的数据集时，其性能也优于 DeFog。
-
新的神经模型通过特征选择增强了可解释性和效率
研究人员开发了新的神经加性模型和基模型，它们结合了特征选择，以提高计算效率和减小模型尺寸。这些模型由 Shinichi Shirakawa 提出，通过使用神经网络作为非线性形状函数来构建广义加性模型 (GAM)，提供了高度的可解释性和特征贡献的可视化。特征选择层的引入解决了之前在处理特征交互或高维数据集时遇到的计算瓶颈，使得在保持与现有 GAM 相当或更好的性能的同时，能够进行更有效的训练和减小模型尺寸。
-
新研究探索AI模型合并优化的先进技术 · 跟踪3个来源
研究人员正在开发新的模型合并优化方法，这是一种将多个专业AI模型的能力结合成一个更强大的模型的技术。一种方法侧重于创建代理基准来有效地调整合并超参数，从而降低与大型语言模型相关的计算成本。另一种方法PACT解决了现有基于任务向量的合并的局限性，通过保留预训练权重中嵌入的关键知识，从而在各种基准测试中提高性能。第三种技术METIS通过采用迭代的、感知损失的多样本合并协议来解决事后合并中的信息擦除问题，以增强多任务性能。
-
新研究探讨领域泛化方法，包括简单基线和新型优化器
研究人员正在探索机器学习领域泛化（DG）和开放域泛化（ODG）的新方法。一项研究表明，像CORAL和MMD这样的简单DG方法在ODG方面可以与更复杂的方法相媲美，并提出了在保持性能的同时降低计算成本的扩展。另一篇论文引入了一个用于DG的反因果设置，通过惩罚模型对协变量变化的敏感性来利用未标记数据。此外，还提出了一种名为GENIE的新优化器，它使用单步泛化率来平衡参数更新并促进领域不变特征的学习，性能优于现有方法。