long short-term memory
PulseAugur coverage of long short-term memory — every cluster mentioning long short-term memory across labs, papers, and developer communities, ranked by signal.
- developed by Recurrent Neural Networks 90%
- instance of BiLSTM 90%
- instance of gated recurrent unit 70%
- used by convolutional neural network 70%
- instance of multilayer perceptron 70%
- used by Recurrent Neural Networks 70%
- competes with random forest 70%
- uses graph neural networks 70%
- used by graph neural networks 70%
- instance of ScienceCast 70%
- competes with LightGBM 70%
- competes with logistic regression model 70%
- 2026-05-14 research_milestone A hybrid LSTM model achieved the lowest final displacement error in dynamic movement forecasting. 来源
20 天有情绪数据
-
使用RoBERTa、LoRA和隐私控制构建的银行意图路由器
使用BANKING77数据集开发了一个银行意图路由器,集成了RoBERTa、LoRA和校准技术。该项目侧重于隐私控制和不确定性测试,最终发现一个非Transformer架构的模型达到了最高的准确率。
-
深度学习模型提升金融时间序列预测能力
研究人员开发了一种新颖的深度学习模型 Bi-LSTM-CNN,用于预测金融时间序列趋势。该混合系统结合了生成对抗网络 (GANs) 与双向长短期记忆网络 (LSTM) 和卷积神经网络 (CNNs),以生成保留真实金融数据特征的合成数据。该模型在 TSX、SHCOMP 和 S&P 500 等股票市场的数据上进行了评估,与现有的机器学习原型相比,表现出卓越的性能。
-
数字孪生IDS检测车辆中的隐蔽CAN总线攻击
研究人员开发了一种新颖的基于数字孪生的车辆动力总成CAN总线系统入侵检测系统(IDS)。该系统模拟动力总成信号之间的物理关系,以预测行为并识别操纵数据负载但保持正常通信模式的攻击。该数字孪生使用共享编码器LSTM在Hyundai/Kia CAN日志上进行训练,其性能优于传统的范围和合理性基线,尤其在检测隐蔽的负载攻击方面。
-
AI模型利用汽车数据预测悉尼高风险驾驶热点
一篇新的研究论文探讨了如何利用联网汽车数据主动识别和预测澳大利亚大悉尼地区高风险驾驶热点。该研究通过硬刹车、急加速和转弯的阈值来量化危险驾驶行为,并创建时空热力图来 pinpoint 高风险区域。研究人员对八种预测模型进行了基准测试,发现 ARIMA 等传统时间序列方法在数据量有限的情况下,其表现与 LSTM 等深度学习模型相当。研究结果表明,基于物联网的汽车数据可以支持有针对性的道路安全干预措施,其中悉尼中央商务区、帕拉玛塔和班克斯…
-
残差学习改进非定常气动载荷预测
研究人员探索了使用残差学习与长短期记忆(LSTM)神经网络相结合的方法,以增强航空弹性应用中非定常气动载荷的预测能力。该研究使用了NLR 7301翼型基准,将学习计算流体动力学(CFD)升力数据与基于物理的瓦格纳函数模型之间差异的残差模型与直接神经网络模型进行了比较。在各种测试中,残差方法表现出更强的泛化能力和更低的误差率,表明其有潜力增强经典的空气动力学理论。
-
AI 论文提出基于 LSTM 的语义编码以减少 DMPC 通信需求
研究人员开发了一种新方法,通过使用带有长短期记忆 (LSTM) 单元的编码器-解码器网络来减少分布式模型预测控制 (DMPC) 中的通信需求。该方法允许代理发送压缩的消息表示,接收者随后可以对其进行重建。使用移动机器人进行的测试表明,即使在会压垮完全通信的条件下,这种基于语义的编码也能保持令人满意的性能和可靠性,从而无需重新训练即可实现前所未有的重建精度或灵活的预测范围调整。
-
混合量子神经网络在喷气发动机剩余使用寿命预测方面展现出潜力
研究人员开发了一种混合量子循环神经网络(HQRNN),用于预测涡轮风扇发动机的剩余使用寿命。该模型将量子长短期记忆(QLSTM)层与经典密集层相结合,旨在改进退化模式表示。在NASA C-MAPSS FD001基准测试中,HQRNN的平均RMSE和MAE比经典的堆叠LSTM网络提高了5%,优于其他基线模型。
-
Pointer Networks with Q-Learning for Combinatorial Optimization
一篇研究论文介绍了一种新颖的神经网络架构 Pointer Q-Network (PQN),旨在改进组合优化任务的序列生成。PQN 将无模型 Q 值近似与 Pointer Networks 相结合,利用马尔可夫决策过程框架和基于 LSTM 的循环神经网络。该方法旨在通过 Q 值动态调整注意力分数,以提高长期结果预测能力,特别是在旅行商问题等任务上。
-
新的量子反馈控制方法使用物理信息神经网络记忆
研究人员开发了一种名为 Kraus-Parameterized Belief Reinforcement Learning 的新方法,用于量子反馈控制。该方法使用一个约束在 Stiefel 流形上的循环编码器来生成物理上始终有效的精确密度矩阵估计。然后,一个 Proximal Policy Optimization 演员利用这些信念状态来指导连续控制动作。在模拟中,该方法证明了对受监控量子比特的稳定反馈控制,实现了约 0.77-0.8…
-
新AI框架可根据早期充电周期预测液流电池健康状况
研究人员开发了一个名为FlowBD-E1的新框架,用于预测铁铬液流电池的完整充电电压/电流轨迹。该模型利用早期数据来预测电池在其整个生命周期内的性能,解决了对长时储能至关重要的退化问题。该框架结合了多尺度卷积编码器、生命周期Transformer和年龄感知FiLM解码器,在准确性和错误率方面优于LSTM和TCN等传统模型。
-
新的机器学习方法增强了车辆通信切换的可解释性
研究人员开发了一种使用机器学习分析车辆通信系统中切换决策的新方法。该方法侧重于可解释性,使操作员能够实时理解模型的推理过程。所提出的基于方差函数分析(fANOVA)的框架在实现具有竞争力的检测性能的同时,与传统的事后方法相比显著降低了解释延迟。这使其成为车辆网络等关键应用的更高效、更透明的解决方案。
-
负责任的人工智能框架应用于地下水建模
研究人员开发了一个负责任的人工智能在地下水建模中的应用框架,遵循六项原则:透明度、技术稳健性、隐私治理、公平性、问责制和可持续性。该研究聚焦于黑河流域,利用LSTM和Transformer模型以及水文气象数据。结果表明,Transformer模型在准确性、稳健性和可解释性方面优于LSTM,展示了负责任的人工智能在气候变化和人类活动背景下实现可持续水资源管理的实际应用。
-
新AI方法通过分析语音轨迹动力学来检测音频深度伪造
研究人员开发了一种新颖的音频深度伪造检测方法,通过分析自监督学习模型潜在空间中的轨迹动力学。该方法侧重于受人类生理学约束的语音产生的时间结构,在包括ASVspoof 2019/2021和Deepfake-Eval-2024在内的六个基准测试中取得了具有竞争力或最先进的性能。研究发现,对这些时间动力学进行建模可以带来显著的收益,尤其是在具有不同合成方法的具有挑战性的跨语料库基准测试中,这表明生理学约束提供了超越简单话语级别统计信息的鲁棒检测信号。
-
新型对话代理利用LLMs和KG-BERT进行学生心理和学习分析
研究人员开发了一种具有心理意识的对话代理,该代理集成了大型语言模型(LLMs)、知识图增强BERT(KG-BERT)和双向LSTM网络。该系统旨在通过分析文本语义、语音特征和行为趋势来同时提高教育环境中的学习表现和情绪健康。一项涉及45名大学生的试点研究表明,与单一模式方法相比,学生的学习动机有所提高,压力有所减轻,学业成绩也有适度提升。研究还包括一项消融分析,以评估知识图组件和各个模式的贡献。
-
研究人员发布“Attention Is All You Need”论文,彻底改变大语言模型架构
2017年,来自Google Brain和Google Research的八位研究人员发表了题为“Attention Is All You Need”的论文,提出了一种革命性的自然语言处理方法。该论文解决了之前像循环神经网络(RNN)和长短期记忆(LSTM)网络等模型存在的关键内存限制问题,这些模型按顺序处理信息,并饱受梯度消失和训练缓慢等问题的困扰。新的架构基于注意力机制的概念,旨在通过一种更有效的方法取代传统的内存机制来克服这些挑…
-
LSTM网络克服了AI中的梯度消失问题
两位研究人员Sepp Hochreiter和Jürgen Schmidhuber于1997年开发了长短期记忆(LSTM)网络,以解决循环神经网络(RNN)中的梯度消失问题。该问题阻止了RNN在反向传播过程中因重复乘法而从序列中较远的信息中学习。LSTM引入了一条独立的信息通道,使用可训练的门来控制其流动,使网络能够长时间保留相关数据。尽管最初推广缓慢,但LSTM论文变得极具影响力,在注意力机制和Transformer出现之前,为自然语…
-
WordPredictor 更新提高了 AI 驱动的文本预测准确性
WordPredictor 发布了 1.7.0 版本,具有显著的准确性增强。此更新在 2000 万个当代电影和电视对话 token 上重新训练了 LSTM 模型,提高了预测相关性。它还将上下文窗口扩展到六个单词,并将 LSTM 与 n-gram 模型集成,同时修复了之前损坏上下文的错误。早些时候发布的 1.6.0 版本引入了一个在 Project Gutenberg 图书上训练的可选 LSTM 预测器,作为默认 n-gram 模型的补充。
-
神经ODE预测电力变压器热行为
研究人员开发了一个新颖的框架,使用神经常微分方程(Neural ODEs)来准确建模和预测电力变压器的热行为。这种物理感知的方法将简化的传热方程直接整合到神经ODE的公式中,与计算成本高昂的数值模拟或纯粹数据驱动的机器学习模型相比,提供了一种更鲁棒和标准化的方法。该框架在挪威十五个不同变压器单元的数据上进行了评估,证明了其在捕捉不同条件下的动态热响应方面的有效性。
-
新的 Transformer 模型 TRACE 改进了学生成绩预测
研究人员开发了一种名为 TRACE(TRansformer for Academic Course-grade Estimation)的基于 Transformer 的新模型,以改进对学生学业成绩的预测。与将学业历史视为简单序列的先前模型不同,TRACE 考虑了同一学期内所修课程的并发性。通过联合预测学生将要修读的课程及其相应的成绩,该模型与仅预测成绩或使用传统 LSTM 和 GNN 方法的模型相比,显著降低了预测误差。这种在十年机构…
-
新的CNN-bi-LSTM架构增强了脑机接口的脑电图解码能力
研究人员开发了一种新颖的混合深度学习架构,结合了卷积神经网络(CNN)和双向长短期记忆(bi-LSTM)网络,用于解码与运动想象相关的脑电图(EEG)信号。该方法旨在通过学习噪声EEG数据中的空间和时间表示来提高脑机接口(BCI)的可靠性。CNN提取高级特征,而bi-LSTM则对时间依赖性进行建模,在运动想象任务分类中表现出稳健的性能,并展示了有前途的受试者独立解码能力。