gated recurrent unit
PulseAugur coverage of gated recurrent unit — every cluster mentioning gated recurrent unit across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
Transformer模型预测刑事案件结果
研究人员开发了一种基于Transformer的时间序列模型,用于分析和预测刑事法律系统内的结果。该模型将法院案件视为事件序列,整合了书记员笔记中的文本数据以及关于被告和案件历史的结构化信息。在20类多标签任务上,该模型取得了0.57的微F1分数,优于多个基线模型,并展示了改进司法监督和理解司法决策的潜力。
-
新的OCTR2A系统仅使用RGB摄像头预测城市代理轨迹
研究人员开发了OCTR2A,这是一种新颖的架构,仅使用RGB摄像头即可在城市交叉口进行实时轨迹投影和代理预测。该系统通过从成对的对角RGB摄像头重建和预测鸟瞰图(BEV)轨迹,解决了依赖于激光雷达等昂贵传感器带来的局限性。为了支持这一点,使用Blender创建了一个名为R3ST++的新合成基准,它提供了同步视图和BEV地面真实数据用于训练和微调。实验表明,OCTR2A在消费级GPU上实现了实时性能,并且比最先进的方法有了显著改进,成功…
-
新的DDSL框架改进了金融市场状态标注
研究人员开发了DDSL,一个用于构建金融市场状态标签的迭代自标注框架。该框架将价格和语法引导的Viterbi标注器与Transformer分类器相结合,利用模型反馈来优化标签。在SSE50、CSI300、CSI500和NASDAQ100等主要股指上的实验表明,与传统的标注方法相比,DDSL显著提高了联合状态宏观F1分数。研究还表明,这些标签的可学习性可以通过迭代和模型反馈来控制,并对价格特征分离和条件反转信号具有启示意义。
-
新的ForceBody数据集将力和力矩数据整合到参数化身体模型中
研究人员推出了ForceBody,一个旨在将地面真实力和力矩数据整合到参数化身体模型中以进行运动生成和重建的新型数据集。该数据集通过提供带有力标注的配对运动序列并量化估计的关节力矩的可靠性,解决了现有运动管线的局限性。ForceBody包含来自140名受试者的10,000多个运动试验,具有源自蒙特卡洛采样的每样本力矩不确定性标注。该数据集已被用于对六种不同的神经网络架构进行基准测试,证明包含每样本不确定性可以提高关节力矩估计的准确性。
-
爱沙尼亚因涉嫌GRU破坏企图而关闭与俄罗斯边境
爱沙尼亚宣布将于12月1日关闭与俄罗斯的所有边境口岸。此前,爱沙尼亚方面指控俄罗斯军事情报机构GRU企图破坏一家无人机工厂,并以此为由做出此决定。爱沙尼亚政府表示,有明确证据表明GRU与此次被指控的袭击有关。
-
新的 Bi-Mamba 模型通过实时轨迹预测增强机器人导航
研究人员开发了 TrajMamba,这是一种新颖的双向状态空间模型,专为使用 RGB-D 相机进行实时人类轨迹预测而设计。该模型通过对训练和推理过程中的姿势提取和深度处理进行对齐,解决了训练-部署流程的差距。TrajMamba 利用堆叠的双向 Mamba 块来编码速度数据,并使用 GRU 头部来解码未来轨迹,在 ETH/UCY 基准测试上实现了平均 ADE 为 0.29m 和 FDE 为 0.51m。凭借 262K 的紧凑参数,它可以…
-
新数据集Ampe-DB凸显了人类活动识别中的泛化挑战
研究人员推出了Ampe-DB,这是一个新的多模态数据集,旨在捕捉Ampe(一种传统的加纳游戏)背景下的人类活动和交互。该数据集包含来自15名参与者的RGB视频、姿态表示和元数据,共计637个片段。评估表明,在Ampe-DB上训练的模型对新参与者和配对的泛化能力较差,凸显了在识别不同个体之间细粒度动作和交互方面的挑战。
-
推荐使用DistilGPT-2来改进TinyGPT项目
作者讨论了各种适合改进先前使用名为TinyGPT的小型定制训练Transformer模型项目的LLM。他们评估了LSTM/GRU、DistilGPT-2/GPT-2、现代小型LLM(SmolLM、Qwen、Phi风格)以及Mamba/RWKV等新架构。作者最终选择DistilGPT-2,因为它具有自回归生成能力并在大型数据集上进行了预训练,与在有限数据上从头开始训练的模型相比,质量有了显著提升。其他可供比较的选项包括Qwen2.5-0…
-
新算法应对无人机边缘网络缓存挑战
研究人员为动态多无人机(UAV)边缘网络中的内容缓存开发了新算法。所提出的 DE-UBAC 和 GRU-DEPPO 方法旨在通过联合考虑内容截止时间、无人机通信能耗和无人机间能量不平衡来提高缓存命中率并减少交付延迟。利用门控循环单元和近端策略优化 (Proximal Policy Optimization) 的 GRU-DEPPO 与基于规则的 DE-UBAC 相比,在截止时间未命中和能量不平衡方面均有显著降低。
-
baseVultra:新的紧凑型非线性递归单元在特定场景下优于LSTM/GRU
研究人员推出了一种新颖的紧凑型非线性递归神经网络单元baseVultra,专为流式序列建模而设计。这种新架构将计算资源从门变换重新分配到候选生成,其特点是将集中的密集递归预算放在单个矩阵上,并用更简单的对角线交互替换递归门矩阵。在TinyShakespeare和text8数据集上的实验中,baseVultra在具有受限隐藏状态容量的紧凑型场景下,与LSTM和GRU模型相比,表现出具有竞争力或更优越的性能。
-
新的CVG-SGM方法增强了4D场景图中对象的身份持久性
研究人员开发了一种名为CVG-SGM的新方法,以提高4D场景图中对象身份的持久性,特别是在对象暂时不可见时。该系统使用一种新颖的内存机制,在载体状态内传输和维护目标对象的信息,从而在外观和运动线索缺失时也能恢复身份。CVG-SGM在受控环境中展示了完美的重新链接准确性,并在真实世界的RGB-D数据上表现出显著的改进,优于现有的控制方法。
-
Chrono Gate Initialization Boosts LSTM/GRU Performance on Long Dependencies
一篇新发表在arXiv上的研究,探讨了在长短期记忆(LSTM)和门控循环单元(GRU)网络中,门控初始化技术与循环 dropout 和 zoneout 相比,在学习长依赖方面的有效性。研究人员在合成任务上训练了这些网络,发现 chrono gate initialization 显著提高了性能,使得所有运行在 5000 次更新内都达到了验证标准。相比之下,传统的初始化方法则表现不佳,dropout 通常会延迟学习,而 zoneout …
-
深度学习模型在啮齿动物癫痫检测中表现出高准确率
研究人员对使用同步视频和脑电图(EEG)记录来检测和评估啮齿动物癫痫严重程度的深度学习模型进行了一项大规模实证研究。该研究在来自20只大鼠的24,000多个片段上评估了十种视频架构和七种EEG模型,在会话独占评估中发现了高检测性能(视频的宏F1分数为0.968,EEG的宏F1分数为0.974)。然而,评估癫痫严重程度更具挑战性,在受试者独占评估中,五分类宏F1分数下降到视频的0.475和EEG的0.404,这表明在泛化到未见过动物方面…
-
新的ST-GRU单元简化了用于视频预测的PredRNN-V2
研究人员开发了一种新的时空门控循环单元(ST-GRU),作为PredRNN-V2中使用的时空长短期记忆(ST-LSTM)单元的替代品。该ST-GRU单元通过使用两个GRU风格的门代替三个ST-LSTM门并将时间记忆状态合并到隐藏状态中,从而简化了循环单元,参数减少了约5%。当集成到PredRNN-V2并在一系列视频预测任务上进行测试时,基于ST-GRU的模型取得了有竞争力的结果,包括更低的LPIPS分数,表明其作为时空预测学习构建模块的潜力。
-
AdaptLSTM框架为云工作负载预测提供高效在线学习
研究人员开发了AdaptLSTM,一种新颖的在线学习框架,旨在应对数据分布变化的情况下高效预测云工作负载。该方法在检测到漂移时选择性地更新模型,与朴素的在线学习方法相比,显著降低了计算成本。AdaptLSTM在Alibaba Machine Trace和Container Trace等基准数据集上展示了卓越的效率和准确性,其表现优于传统的漂移检测方法和匹配预算的基线模型。
-
机器学习模型预测德国电力再调度需求
一篇新的研究论文探讨了使用机器学习模型预测德国电力再调度需求,解决了数据延迟和时间分布偏移等挑战。该研究使用 2021 年至 2024 年的德国公共传输记录,评估了包括 LightGBM、GRU 和 Transformer 架构在内的几种模型。结果表明,在显著的数据延迟下,带有滚动校准的 LightGBM 能够对总再调度量进行准确的概率预测,尽管它可能无法保证在高容量拥堵事件期间的可靠性。
-
神经进化搜索为边缘设备生成高效的股票预测模型
研究人员开发了一种名为 ONE-NAS 的新型神经进化架构搜索方法,用于股票收益预测。该方法进化出可以在 Raspberry Pi 等边缘设备上部署的小型循环网络,以实现高效的在线预测。与 LSTM 和 GRU 等传统模型相比,进化出的网络表现出更优越的性能,实现了显著更高的净回报和更快的预测时间。
-
开发者在Mastodon上分享Hacktoberfest经历和AI项目
一位开发者分享了他们参与Hacktoberfest的经历,这是一个鼓励为开源项目做贡献的年度活动。这位来自印度尼西亚的开发者Malik Putra记录了他的旅程和项目,其中包括一个与AI相关的项目和一个周末挑战项目。这些帖子突显了与DEV Community和更广泛的Mastodon平台的互动。
-
新的Chordonomicon数据集提供66.6万首歌曲的和弦进行
研究人员推出Chordonomicon,一个包含超过66.6万首歌曲级符号和弦进行的新数据集。该数据集比现有数据集规模更大,并包含结构部分、流派和发布日期的注释。随附的研究还提出了一个用于下一个和弦预测的基准套件,评估了循环神经网络、门控循环单元和长短期记忆架构。实验表明,结构注释可提高预测性能,并且该数据集可作为未来音乐理解模型的开放基准。
-
机器人难以将学习到的通信转移到物理世界
研究人员研究了协同进化通信协议从模拟环境到物理机器人中的可转移性。在一项涉及由门控循环单元(GRU)网络控制的两个e-puck移动机器人的实验中,通信协议在没有重新训练的情况下直接转移到了3D物理环境中。虽然为稳定的物理运行进行了一些调整,但转移被证明是部分且不对称的,其中一个机器人在大多数试验中未能达到其目标。进一步的实验表明,新兴通信转移的成功不仅取决于信号过程,还取决于进化过程中存在的生态和导航条件。