PulseAugur
实时 06:39:11
English(EN) Contrast-Enhanced Gating in GRUs for Robust Low-Data Sequence Learning

用于鲁棒低数据序列学习的GRU对比增强门控

研究人员开发了一种名为平方S型函数-双曲正切函数(SST)的新激活函数,旨在提高门控循环单元(GRU)在序列学习任务中的性能,尤其是在训练数据有限的情况下。这种无参数的修改增强了门激活之间的对比度,从而实现了更清晰的信息过滤和更稳定的学习。在手语识别、人类活动识别和时间序列预测方面的评估表明,SST-GRU在数据稀缺环境中始终优于标准GRU,且计算成本增加极少。 AI

影响 引入了一种无参数的GRU修改方法,提高了在低数据序列学习场景下的性能。

排序理由 这是一篇介绍循环神经网络新型激活函数的学术论文。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

用于鲁棒低数据序列学习的GRU对比增强门控

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Barathi Subramanian, Rathinaraja Jeyaraj, Anand Paul ·

    用于鲁棒低数据序列学习的GRU对比增强门控

    arXiv:2402.09034v3 Announce Type: replace Abstract: Activation functions govern how recurrent networks regulate and transmit information across temporal dependencies. Despite advances in sequence modelling, gated recurrent units (GRUs) still depend on the standard sigmoid and tan…