recurrent neural network
PulseAugur coverage of recurrent neural network — every cluster mentioning recurrent neural network across labs, papers, and developer communities, ranked by signal.
- instance of long short-term memory 90%
- instance of gated recurrent unit 90%
- instance of Gotit.pub 90%
- instance of ScienceCast 90%
- instance of deep learning 90%
- instance of DagsHub 90%
- instance of alphaXiv 90%
- instance of multilayer perceptron 90%
- instance of artificial neural network 90%
- instance of Recurrent Neural Networks 90%
- developed by long short-term memory 80%
- used by long short-term memory 70%
4 天有情绪数据
-
新的Chordonomicon数据集提供66.6万首歌曲的和弦进行
研究人员推出Chordonomicon，一个包含超过66.6万首歌曲级符号和弦进行的新数据集。该数据集比现有数据集规模更大，并包含结构部分、流派和发布日期的注释。随附的研究还提出了一个用于下一个和弦预测的基准套件，评估了循环神经网络、门控循环单元和长短期记忆架构。实验表明，结构注释可提高预测性能，并且该数据集可作为未来音乐理解模型的开放基准。
-
WaveHiTS模型利用小波和层次化方法增强风向预测
提出了一种名为WaveHiTS的新模型用于风向预测，该模型集成了小波变换和层次化时间序列方法。该方法将风向分解为U-V分量，并利用小波变换捕捉多尺度频率模式，有效减少了多步预测中的误差传播。在中国内蒙古的数据实验表明，WaveHiTS显著优于各种深度学习和基于Transformer的模型，RMSE值约为19.2°-19.4°，而循环模型则超过56°，在长达60分钟的预测中表现稳健。
-
新的XAI框架提升LSTM在信道估计中的效率
研究人员开发了一个名为X-RACE的新框架，以提高深度学习模型（特别是用于高移动性车辆环境中信道估计的长短期记忆（LSTM）网络）的可解释性和效率。该框架采用了一种新颖的双重优化策略，同时修剪不相关的输入子载波和内部隐藏单元，从而降低了计算复杂度。此外，X-RACE引入了新的时间XAI指标——饱和时间、重要性漂移和相关性对比——来分析LSTM学习动态。模拟结果表明，与传统的XAI方法相比，X-RACE可以将推理复杂度降低44%以上，同…
-
新研究利用新颖架构解决手写字符识别问题
两篇新研究论文探讨了手写字符识别的进展。第一篇论文介绍了一种结合滑动窗口路径签名和线性循环单元（LRU）的框架，在识别旋转手写字符方面取得了高精度，在速度和准确性上均优于现有模型。第二篇论文提出了 GraphemeNet，一种多脚本架构，通过持久支架注入和笔画拓扑模块显式编码脚本-几何规律，展示了跨各种书写系统的结构先验效率。
-
新的模块化深度RNN架构提高了复杂动力学学习的效率
开发了一种新的模块化深度循环神经网络（RNN）架构，以简化各种RNN设计的部署并自动计算基于梯度的学习的导数。这种模块化支持新的架构，包括具有前馈层间连接的架构，从而显著增强了RNN对复杂动力学和非线性的建模能力。所提出的方法还有助于缓解多层RNN中梯度消失/爆炸的问题，其在四旋翼飞行器案例研究中的成功应用证明了这一点，在该研究中，它比现有方法更有效地学习了高度动力学。
-
新型图神经网络准确预测城市PM2.5水平
研究人员开发了一种新颖的空间注意力图神经网络（SA-GNN）来预测城市环境中的PM2.5浓度。该模型使用在印度古吉拉特邦苏拉特收集的新数据集进行了测试，该数据集包括PM2.5水平、气象数据和土地利用特征。SA-GNN在LSTM和RNN等传统模型上表现出优越的性能，R^2得分为0.95，表明其在捕捉复杂时空模式以改进空气质量监测和个性化健康警报方面的有效性。
-
新的LRNBA架构提供神经网络压缩
研究人员推出了一种名为线性可复用神经网络基架构（LRNBA）的新框架，旨在解决大型AI模型的内存成本瓶颈。LRNBA将网络块表示为共享神经网络基的线性组合，其灵感来源于循环神经网络的设计，能够在保持训练稳定的同时实现显著的网络压缩。实验表明，LRNBA在相同的参数预算下，能够实现与传统架构相当或更快的收敛速度和更低的损失，从而允许构建更宽、更深的网络。
-
深度学习模型提升电池健康状态估计精度
研究人员开发了一个新的框架，使用混合深度学习模型来估计电池的健康状态（SOH）。该模型结合了卷积神经网络（CNN）和双向长短期记忆（BiLSTM）网络，并通过贝叶斯优化调整超参数。研究评估了独立的循环模型、CNN-RNN架构以及通过中间全连接层增强的模型，发现后者最准确。该框架整合了容量和电压等各种电池数据特征，并使用MAE、RMSE和FLOPs作为指标在三个公开数据集上进行了验证。
-
新型FAM-LSTM模型改进葡萄浆果温度预测
研究人员开发了一种新颖的FAM-LSTM模型，将前馈注意力机制与长短期记忆网络（LSTM）相结合，以准确预测葡萄浆果的温度。该模型在各种预测范围和数据输入场景下，始终优于LSTM、GRU、RNN和随机森林等现有方法。研究发现，纳入园内微气候测量数据可显著提高预测精度，尤其是在较长的预测期间，为葡萄园的精准热应力管理提供了强大工具。
-
新的基于RNN的框架加速了3D多细胞生长的多GPU模拟
研究人员开发了一个新的多GPU框架，旨在显著提高详细3D多细胞生长模拟的可扩展性。该框架利用循环神经网络（RNN）在GPU之间动态平衡工作负载，解决了随着细胞移动和生长改变计算分布而产生的效率低下问题。基于RNN的控制器经过离线训练，能够学习纠正不平衡，与静态或反应式负载均衡方法相比，可减少运行时间和重新划分事件。评估表明，仅GPU加速就能将计算速度提高三个数量级，而RNN引导的均衡进一步将全局不平衡从11.3%降低到3.5%。
-
曝光差距指标对计划抽样的有效性预测能力很差
对序列预测模型中计划抽样的新分析显示，“曝光差距”指标（常被引用来解决曝光偏差）在预测计划抽样的有效性方面几乎没有预测能力。研究表明，模型在标准教师强制下的性能是计划抽样是否有益的更强指标。该研究还强调了该过程的固定点以及测量模型误差的准确性问题，尤其是在循环神经网络方面。
-
WaveVerif 使用声音以 80% 的准确率验证机器人工作流
研究人员开发了一个名为 WaveVerif 的新颖框架，该框架利用声学侧信道分析 (ASCA) 来验证机器人工作流。该系统分析机器人在移动过程中发出的声音，以确定其操作是否与预期命令一致。使用各种机器学习分类器，包括 SVM、DNN、RNN 和 CNN，该系统在验证单个机器人运动和拾放操作等复杂工作流方面达到了 80% 以上的准确率。这种低成本、被动的验证方法不需要对机器人进行任何硬件修改，因此适用于敏感环境。
-
分析了分岔附近循环神经网络的学习动力学
一篇新的研究论文探讨了循环神经网络（RNNs）在接近临界过渡点（称为分岔）时的学习动力学。该研究利用全局经验神经切线核（GeNTK）证明，学习几何被放大并变得各向异性，集中于特定的低秩通道。这一理论框架通过高维RNNs和多任务LeakyRNN的实验得到验证，显示GeNTK放大与突然的损失变化、子任务干扰以及内部动力学变化之间存在相关性。
-
深度学习模型在电力价格预测方面的比较
研究人员开发了一个标准化的框架来评估深度学习模型在电力价格预测中的应用，解决了该领域缺乏可比数据集的问题。该研究使用2024年德国-卢森堡出价区的公开数据，比较了包括状态空间、MLP、RNN和基于Transformer的模型在内的六种深度学习架构。研究结果表明，N-HiTS和NBEATSx模型在低数据量场景下具有竞争力，而Transformer模型在经过更多调优后可以达到相似的准确性。研究强调了特征选择和超参数调优对于获得最佳性能的重要性。
-
深度学习模型改进声源传递矩阵估计
研究人员开发了新颖的深度学习框架，用于估计相对传递矩阵（ReTM），这是多源和多接收器的相对传递函数的推广。所提出的方法利用了时域和短时频域卷积网络，以及基于长短期记忆（LSTM）的循环神经网络。实验表明，与传统的基于协方差的方法相比，这些深度学习方法实现了更准确的ReTM估计，在语音增强应用中的性能与基线方法相当。
-
AI框架使用视觉Transformer和GRU检测蚊子传播疾病
研究人员开发了一种新颖的混合框架，用于检测蚊子传播的疾病，特别是识别登革热病毒感染的蚊子。该系统集成了YOLO 11M模型进行初始蚊子识别和背景去除，然后使用视觉Transformer (ViT) 进行特征提取。最后，使用卷积GRU (ConvGRU) 分类器进行分类，该分类器在性能上优于其他循环神经网络模型。这种基于ConvGRU的方法实现了88.88%的准确率，有效地捕捉了蚊子运动中的空间特征和时间依赖性，从而实现了可靠的行为分析。
-
机器学习与深度学习在星巴克评论情感分析中的对比
一篇新研究论文比较了各种机器学习和深度学习模型在零售咖啡行业消费者情感分析中的有效性。该研究聚焦于ConsumerAffairs.com上的星巴克评论，发现虽然支持向量机（SVM）在传统机器学习模型中表现最佳，准确率为91.0%，但在深度学习模型中，双向长短期记忆网络（Bidirectional LSTM）表现更优。研究还强调，数据集中类不平衡对多个模型的积极情感召回率产生了负面影响，突显了模型选择和预处理对于客户体验分析的重要性。
-
机器人化学系统通过不确定性感知策略切换增强安全性
研究人员开发了SAFE-CHEM，一个用于机器人化学的新框架，通过管理不确定性来增强安全性。该系统使用循环神经网络的集成来预测动作并量化认知不确定性。当不确定性超过设定的安全阈值时，系统会切换到基于规则的备用控制器，从而降低高风险实验室实验中灾难性故障的风险。该框架已被证明可以在物理Fanka Production 3机器人上提高任务成功率并最大限度地减少安全违规行为。
-
神经网络：令牌ID如何变成矩阵乘法
本文解释了自然语言处理中使用的神经网络的基本计算。它详细说明了单词如何首先被转换为数字令牌ID，然后由网络层进行处理。每一层都执行带有学习权重的矩阵乘法，然后进行ReLU等非线性激活函数，将输入向量转换为新的表示。文章强调了GPU如何加速这些可并行化的矩阵运算，并将其与循环神经网络（RNN）的顺序计算进行对比，解释了Transformer为何能更有效地扩展。
-
AI模型利用航班时刻表预测机场安检吞吐量
研究人员开发了一个新颖的框架，通过将航班时刻表转换为时间对齐信号来预测每小时机场安检通道的吞吐量。该方法利用了时间融合Transformer，它将派生自时刻表的到达强度信号与历史数据和时间变量相结合。该模型在六小时预测中实现了9.33%的加权平均绝对百分比误差，优于循环神经网络和长短期记忆模型，并在更长的预测范围内保持了具有竞争力的误差率。