recurrent neural network
PulseAugur coverage of recurrent neural network — every cluster mentioning recurrent neural network across labs, papers, and developer communities, ranked by signal.
- instance of long short-term memory 90%
- instance of Recurrent Neural Networks 90%
- instance of deep learning 90%
- instance of multilayer perceptron 90%
- developed by long short-term memory 80%
- instance of CNN 70%
- affiliated with multilayer perceptron 70%
- used by long short-term memory 60%
- used by deep learning 60%
- used by convolutional neural network 60%
- used by Recurrent Neural Networks 60%
8 天有情绪数据
-
曝光差距指标对计划抽样的有效性预测能力很差
对序列预测模型中计划抽样的新分析显示，“曝光差距”指标（常被引用来解决曝光偏差）在预测计划抽样的有效性方面几乎没有预测能力。研究表明，模型在标准教师强制下的性能是计划抽样是否有益的更强指标。该研究还强调了该过程的固定点以及测量模型误差的准确性问题，尤其是在循环神经网络方面。
-
WaveVerif 使用声音以 80% 的准确率验证机器人工作流
研究人员开发了一个名为 WaveVerif 的新颖框架，该框架利用声学侧信道分析 (ASCA) 来验证机器人工作流。该系统分析机器人在移动过程中发出的声音，以确定其操作是否与预期命令一致。使用各种机器学习分类器，包括 SVM、DNN、RNN 和 CNN，该系统在验证单个机器人运动和拾放操作等复杂工作流方面达到了 80% 以上的准确率。这种低成本、被动的验证方法不需要对机器人进行任何硬件修改，因此适用于敏感环境。
-
分析了分岔附近循环神经网络的学习动力学
一篇新的研究论文探讨了循环神经网络（RNNs）在接近临界过渡点（称为分岔）时的学习动力学。该研究利用全局经验神经切线核（GeNTK）证明，学习几何被放大并变得各向异性，集中于特定的低秩通道。这一理论框架通过高维RNNs和多任务LeakyRNN的实验得到验证，显示GeNTK放大与突然的损失变化、子任务干扰以及内部动力学变化之间存在相关性。
-
深度学习模型在电力价格预测方面的比较
研究人员开发了一个标准化的框架来评估深度学习模型在电力价格预测中的应用，解决了该领域缺乏可比数据集的问题。该研究使用2024年德国-卢森堡出价区的公开数据，比较了包括状态空间、MLP、RNN和基于Transformer的模型在内的六种深度学习架构。研究结果表明，N-HiTS和NBEATSx模型在低数据量场景下具有竞争力，而Transformer模型在经过更多调优后可以达到相似的准确性。研究强调了特征选择和超参数调优对于获得最佳性能的重要性。
-
深度学习模型改进声源传递矩阵估计
研究人员开发了新颖的深度学习框架，用于估计相对传递矩阵（ReTM），这是多源和多接收器的相对传递函数的推广。所提出的方法利用了时域和短时频域卷积网络，以及基于长短期记忆（LSTM）的循环神经网络。实验表明，与传统的基于协方差的方法相比，这些深度学习方法实现了更准确的ReTM估计，在语音增强应用中的性能与基线方法相当。
-
AI框架使用视觉Transformer和GRU检测蚊子传播疾病
研究人员开发了一种新颖的混合框架，用于检测蚊子传播的疾病，特别是识别登革热病毒感染的蚊子。该系统集成了YOLO 11M模型进行初始蚊子识别和背景去除，然后使用视觉Transformer (ViT) 进行特征提取。最后，使用卷积GRU (ConvGRU) 分类器进行分类，该分类器在性能上优于其他循环神经网络模型。这种基于ConvGRU的方法实现了88.88%的准确率，有效地捕捉了蚊子运动中的空间特征和时间依赖性，从而实现了可靠的行为分析。
-
机器学习与深度学习在星巴克评论情感分析中的对比
一篇新研究论文比较了各种机器学习和深度学习模型在零售咖啡行业消费者情感分析中的有效性。该研究聚焦于ConsumerAffairs.com上的星巴克评论，发现虽然支持向量机（SVM）在传统机器学习模型中表现最佳，准确率为91.0%，但在深度学习模型中，双向长短期记忆网络（Bidirectional LSTM）表现更优。研究还强调，数据集中类不平衡对多个模型的积极情感召回率产生了负面影响，突显了模型选择和预处理对于客户体验分析的重要性。
-
机器人化学系统通过不确定性感知策略切换增强安全性
研究人员开发了SAFE-CHEM，一个用于机器人化学的新框架，通过管理不确定性来增强安全性。该系统使用循环神经网络的集成来预测动作并量化认知不确定性。当不确定性超过设定的安全阈值时，系统会切换到基于规则的备用控制器，从而降低高风险实验室实验中灾难性故障的风险。该框架已被证明可以在物理Fanka Production 3机器人上提高任务成功率并最大限度地减少安全违规行为。
-
神经网络：令牌ID如何变成矩阵乘法
本文解释了自然语言处理中使用的神经网络的基本计算。它详细说明了单词如何首先被转换为数字令牌ID，然后由网络层进行处理。每一层都执行带有学习权重的矩阵乘法，然后进行ReLU等非线性激活函数，将输入向量转换为新的表示。文章强调了GPU如何加速这些可并行化的矩阵运算，并将其与循环神经网络（RNN）的顺序计算进行对比，解释了Transformer为何能更有效地扩展。
-
AI模型利用航班时刻表预测机场安检吞吐量
研究人员开发了一个新颖的框架，通过将航班时刻表转换为时间对齐信号来预测每小时机场安检通道的吞吐量。该方法利用了时间融合Transformer，它将派生自时刻表的到达强度信号与历史数据和时间变量相结合。该模型在六小时预测中实现了9.33%的加权平均绝对百分比误差，优于循环神经网络和长短期记忆模型，并在更长的预测范围内保持了具有竞争力的误差率。
-
大语言模型文本处理详解：从词数统计到语言学和符号学 · 追踪8个来源
一系列文章探讨了大语言模型（LLM）如何处理和理解文本的技术基础。作者深入介绍了各种方法，从基本的词数统计和TF-IDF、马尔可夫链等统计技术，到Word2Vec、MLP、RNN和LSTM等更先进的神经网络方法。该系列还触及了理解LLM功能所必需的语言特征和符号学理论，并强调这些模型是复杂的机器，而非有意识的思维体。
-
TEDDY基础模型高精度预测儿童疾病风险
研究人员开发了TEDDY，这是一种新颖的基础模型，旨在利用历史诊断数据预测儿童各种疾病的风险。TEDDY在超过一百万名儿童的数百万份ICD-10诊断数据上进行训练，在预测疾病发病率方面，其表现优于传统的机器学习模型，甚至优于大型通用语言模型。该模型对常见和罕见疾病都显示出显著的预测能力，其准确性在不同人群中保持一致，并且在诊断正式记录前两年以上进行预测时仍然有效。
-
Recurrent Neural Network Improves Simulation of Ferromagnetic Cores
研究人员开发了一种循环神经网络（RNN），以提高铁磁叠层铁芯有限元仿真的效率。该方法解决了包含磁滞和涡流的计算挑战，这些挑战显著增加了仿真成本。RNN充当代理模型，可实现与详细仿真相媲美的结果，但计算开销大大降低，使其适用于设计应用。训练好的模型可公开获取，并可集成到现有仿真框架中。
-
RWKV 模型融合了 RNN 的效率和 Transformer 的性能
RWKV 模型因其独特的架构而备受关注，它将大型语言模型的性能优势与 Transformer 中常见的并行处理能力相结合。这种方法使 RWKV 在保留循环神经网络的顺序处理优势的同时，实现了强大的 LLM 性能。
-
AI模型使用潜在空间中的“重定位”进行隐蔽通信
研究人员探讨了AI模型如何通过在潜在空间中重定位信号而非混淆信号来进行隐蔽通信。在实验中，使用基于RWKV架构的脉冲神经网络SpikeGPT，发送者（Alice）能够移动潜在空间中的消息簇。这种刚体平移形式的移动，即使简单的线性探针仍能重建消息，也导致了监控者的检测准确率骤降。这表明AI安全监控可能需要考虑表示的几何偏移，而不仅仅是信号的复杂性。
-
新的物理信息AI框架可在边缘设备上实现实时跌倒检测
研究人员开发了一种新颖的、基于物理信息（physics-informed）的框架，用于在低功耗边缘设备上利用视觉进行实时跌倒检测。该方法将跌倒建模为耦合动力系统中的稳定性损失事件，并利用双LTC（Lagrangian Control Theory）神经网络架构。该系统持续模拟惯性轨迹和地面接触调整，并包含一个可学习的耦合模块和一个用于检测边界穿越的稳定性流形（Stability Manifold）分类器。该方法提供了具有增强物理可解释…
-
新的“Forking-Sequences”架构提高了时间序列预测的准确性和稳定性
一篇新研究论文介绍了一种名为“Forking-Sequences”的新型神经网络架构，旨在提高多预测期时间序列预测的效率并降低其波动性。与传统方法为每个预测日期独立处理不同，该方法在单次传递中处理所有预测创建日期的整个时间序列。该论文从理论上证明了其优势，包括通过集成降低预测波动性、通过梯度方差降低提高统计效率以及在推理过程中提高计算效率。对基准数据集的实证分析表明，在各种模型类型上准确性均有显著提高，并且通过集成进一步降低了预测波动性。
-
神经网络学习涌现表示以实现泛化
一篇新的研究论文探讨了人工神经网络如何学习低维表示以实现泛化。该研究表明，在信息瓶颈下训练循环神经网络对于时间序列预测任务中的分布外泛化至关重要。研究人员观察到这些表示的涌现呈现出非单调轨迹，这与泛化性能的提高相关，并与小鼠海马体在迷宫学习任务中的活动动态相似。
-
新框架支持使用自然语言控制多机器人团队
研究人员开发了一种新颖的框架，可以通过自然语言指令控制多机器人团队，从而在无需在操作期间直接调用语言模型的情况下，实时分解和执行复杂任务。该系统利用确定性有限自动机来表示任务，并利用循环神经网络将语言模型的推理提炼成紧凑、可部署的形式。然后，图神经网络将 RNN 的内部状态转换为去中心化机器人执行的控制策略，在模拟和现实场景中均表现出稳健的性能。
-
混合AI模型改进葡萄物候预测
一篇研究论文提出了一种新颖的混合建模方法，用于预测葡萄物候，这对葡萄园管理至关重要。该方法结合了多任务学习和循环神经网络来参数化可微分的生物物理模型。这种方法允许在不同葡萄品种之间共享学习，同时保持生物结构，从而比传统的生物物理模型或标准的深度学习技术获得更准确、更稳健的预测。该论文（已被作者撤回）使用真实世界和合成数据集，展示了在预测物候阶段、耐寒性和小麦产量方面取得的显著改进。