deep neural network
PulseAugur coverage of deep neural network — every cluster mentioning deep neural network across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
深度神经网络框架简化交流潮流故障分析
研究人员开发了一种新颖的交流潮流故障分析框架，该框架使用单个深度神经网络（DNN）来预测故障后的运行状态。该方法旨在减轻传统方法相关的计算负担，传统方法通常需要大量的特定于停电的训练数据。所提出的方法将状态预测构建为不动点迭代，并包含半定规划（SDP）公式来认证DNN的收敛条件。在IEEE 118总线系统上的测试表明，SDP公式是有效的，并且该方法以很少的迭代次数准确地估计了故障后的状态。
-
新的DPG损失函数提高了神经网络求解偏微分方程的准确性
研究人员为旨在准确预测参数依赖性偏微分方程（PDE）解的机器学习模型开发了新的基于残差的损失函数。这些函数，特别是源自不连续Petrov-Galerkin（DPG）方法中的函数，比传统的最小二乘损失函数具有更稳健的性能，尤其是在处理高对比度扩散参数时。该研究提供了理论论证和数值结果，以支持这些DPG损失函数在增强深度神经网络降阶模型预测能力方面的有效性。
-
FPGA平台加速用于DNN的近似乘法器评估
研究人员开发了FAME，一个利用FPGA加速深度神经网络近似乘法器评估的新平台。这种基于硬件的方法显著减少了评估乘法器设计及其对DNN推理精度的影响所需的时间，其性能比传统的基于LUT的仿真方法高出3.47倍。此外，该平台还包含一种模式引导的再训练技术，与现有的再训练方法相比，可以恢复高达65.5%的精度损失。
-
OptiPrime框架通过协议-硬件协同设计优化私有DNN推理
研究人员开发了OptiPrime框架，旨在提高私有深度神经网络（DNN）推理的效率。该框架通过协同优化协议和硬件，解决了混合同态加密（HE）和多方计算（MPC）相关的延迟问题。OptiPrime引入了一种新的卷积HE协议，显著减少了传输的密文数量，从而缓解了网络通信瓶颈。此外，它还包含了一个轻量级的权重明文压缩系统和一个专门的数据流，以增强片上数据重用，从而带来显著的性能提升。
-
深度学习模型预测洋流以清理塑料碎片
研究人员开发了Drift Field Net (DFN)，一个旨在利用卫星观测预测海面流场的深度神经网络。该模型旨在改进粒子漂移的预测，这对于针对北太平洋副热带环流等区域塑料碎片积累的策略至关重要。DFN采用两阶段训练过程，结合了模拟数据预训练和使用平流一致损失函数的拉格朗日微调。在评估中，与运行中的基于物理的系统相比，DFN在7天预测后平均定位误差减少了20公里，通过拉格朗日微调实现了进一步改进。
-
NeuroFlex 实现无损的逐元素人工神经网络-脉冲神经网络协同执行，用于高效稀疏推理
研究人员开发了 NeuroFlex，一种新颖的加速器设计，它允许在逐元素级别上协同执行人工神经网络（ANN）和脉冲神经网络（SNN）。这种方法使得每个输出元素都可以独立地分配给 ANN 或 SNN 执行，消除了准确性损失并显著提高了处理效率。与现有的仅 ANN 或仅 SNN 基线相比，NeuroFlex 在各种工作负载中实现了高 PE 利用率，并显著降低了能耗延迟积并增加了加速。
-
研究论文详述温度对模拟深度神经网络（DNN）推理的影响
一篇新的研究论文探讨了温度对模拟深度神经网络（DNN）推理的影响，特别是在手机等资源受限设备上。研究发现，温度会显著降低推理准确性，这主要是由于系统性的非理想因素而非仅仅是随机噪声。研究评估了诸如噪声感知训练、硬件在环训练和温度感知校准等缓解策略，其中后两种在不同热条件下保持准确性方面被证明最为有效。
-
VertiFuseX：新型LSTM架构提升金融预测准确性
研究人员开发了VertiFuseX，一种专为更通用金融预测设计的新型深度学习架构。这种混合LSTM模型利用了多尺度时序表示的独特倒数第二层垂直融合，这些表示来自不同的LSTM分支和一个并行的DNN流。与15年内10个全球股指的基线模型相比，VertiFuseX在准确性方面表现出显著提升，MAPE降低了30-54%，MAE和RMSE提高了40%以上。该模型还以其轻量级设计而闻名，内存占用小，推理速度快，适合部署。
-
深度学习模型利用众包数据对星系形态进行分类
研究人员采用了一种深度神经网络，特别是卷积神经网络（CNN），利用Galaxy Zoo 1数据集中众包的标注来对星系形态进行分类。该研究探索了各种训练策略，包括微调整个网络与仅微调最后一层、引入分层分类以及通过课程学习利用迁移学习。结果表明，训练所有网络层可将准确率显著提高10%，而迁移学习对于有限数据尤其有效。研究结果表明，尽管与硬标注相比，使用众包标注进行训练存在独特的挑战，但通过仔细的方法可以实现高准确率。
-
新的BROT方法在机器学习中实现最优传输图估计
研究人员推出了一种新颖的两步法BROT（Barycentric Regression for OT，用于OT的重心回归），用于估计最优传输（OT）图，这对于在机器学习中对齐概率分布至关重要。该方法首先计算无正则化的OT计划，然后采用通过最小二乘回归训练的深度神经网络来近似重心目标。理论证明，在地面真实OT图的Lipschitz连续性条件下，BROT可以实现minimax最优收敛速率。在合成和图像数据集上的实证评估表明，BROT在图估计…
-
新理论利用深度神经网络实现紧凑型数据集的线性可分性
已开发出一种新的理论框架，用于使用微分同胚重定位 n 维空间中的紧集，并可能应用于数据分类。研究表明，这类集合的集合可以嵌入到更高维度中，使其成为线性可分的。该理论应用于证明，只要满足一个温和的条件，具有特定激活函数的深度神经网络就可以使 $\mathbb{R}^n$ 中的有限数据集线性可分。
-
新的DVFS调度器消除了被动冷却硬件上边缘AI的热节流
研究人员开发了一种新的动态电压和频率缩放（DVFS）调度器，旨在防止运行深度神经网络的被动冷却边缘设备出现热节流。该调度器利用时域保护和绝对温度边界来管理热量，通过在每帧功耗更低的情况下实现更高的帧率，其性能优于仅基于温度的基线。虽然主动冷却仍能提供更高的吞吐量，但所提出的方法表明，在特定的运行范围内，可以无需机械冷却即可实现持续的边缘推理。
-
深度图生成模型在现实网络模拟方面展现出潜力
一篇新论文探讨了深度图生成模型在创建用于研究的真实合成网络方面的有效性。通过从网络科学的视角分析这些模型，研究发现某些深度学习方法可以生成在结构特性上与真实世界网络高度相似的合成网络。这种能力对于研究至关重要，尤其是在流行病缓解策略等领域，因为出于隐私考虑，共享真实世界数据通常不可行。
-
新框架进化出适应性算术电路以提高AI效率
研究人员开发了CircuitsDNA，一个新颖的进化框架，旨在自动创建能够动态调整其精度的算术电路以提高效率。该系统集成了多阈值可验证性、资源受限搜索和自适应突变，以探索广泛的电路设计。在28纳米CMOS中的实验表明，8位乘法器的面积-功耗积显著降低，在INT8 DNN工作负载上节省高达56%，同时相对于FP32的精度损失最小。
-
通用编码计算框架引入以实现容忍掉队者的机器学习 · 跟踪2个来源
两篇新的arXiv论文介绍了通用编码计算（GCC）框架，该框架旨在提高分布式计算的效率和弹性，尤其是在机器学习任务中。第一篇论文提出了一种感知流形编码策略，该策略利用数据的内在结构，在减少掉队者情况下的恢复错误方面优于标准GCC。第二篇论文为GCC建立了学习理论基础，通过将编码计算构建为均方误差损失，并为各种掉队者场景提供理论性能保证，从而证明了其在深度神经网络中的适用性。
-
软表面肌电图接口实现97.2%精度的静默语音识别
研究人员开发了一种新颖的、可佩戴在手上的用于静默语音识别（SSR）的软表面肌电图（EMG）接口。该设备使用一个靠近嘴唇的指尖电极，仅在需要时捕捉EMG信号，并集成了液态金属互连和柔性电极以提高稳定性。一个基于这些信号训练的深度神经网络在分类30个单词的词汇时达到了97.2%的准确率，展示了强大的语言区分能力。该系统在传统语音识别不适用的环境中通过实时无人机控制得到了进一步的实用性验证。
-
新的$(\text{DNN})^2$方法增强了神经网络验证
研究人员开发了一种名为$(\text{DNN})^2$的新方法，用于改进深度神经网络的验证，特别是那些使用ReLU（整流线性单元）的网络。现有方法由于松弛中的差距，通常提供过于保守的安全保证。虽然完全正程序（CPP）公式可以弥合这些差距，但计算上不可行。提出的$(\text{DNN})^2$方法提供了一种更易于处理的松弛，它将关键约束保留为半定规划（SDP），解决了之前限制其使用的可扩展性问题。这种新方法利用了一种新颖的特征值最大化程…
-
新框架通过与深度神经网络的中间表示对齐来改进神经解码
研究人员开发了一个名为浅层对齐（Shallow Alignment）的新框架，以改进脑机接口的神经解码。该方法通过将神经信号与深度神经网络的中间表示对齐，而不是仅仅与最终的嵌入对齐，来解决粒度不匹配问题。实验表明，浅层对齐在性能上显著优于标准的对齐技术，性能提升在22%到58%之间，并且随着更大的视觉骨干网络，表现出积极的扩展趋势。
-
WaveVerif 使用声音以 80% 的准确率验证机器人工作流
研究人员开发了一个名为 WaveVerif 的新颖框架，该框架利用声学侧信道分析 (ASCA) 来验证机器人工作流。该系统分析机器人在移动过程中发出的声音，以确定其操作是否与预期命令一致。使用各种机器学习分类器，包括 SVM、DNN、RNN 和 CNN，该系统在验证单个机器人运动和拾放操作等复杂工作流方面达到了 80% 以上的准确率。这种低成本、被动的验证方法不需要对机器人进行任何硬件修改，因此适用于敏感环境。
-
新的AI方法在不确定性下优化3D打印质量 · 跟踪3个来源
研究人员开发了优化熔丝制造（FFF）过程的新方法，重点是在不确定性下提高零件质量。一种方法使用贝叶斯神经网络来预测几何精度和丝材结合质量，结合模型和输入不确定性来优化喷嘴温度和速度等参数。另一篇论文提出了一个计算框架，将传热分析与烧结模型相结合，以最大化丝材结合质量，使用Sobol指数进行敏感性分析，并使用高斯过程来管理模型差异。第三项研究探讨了物理信息和混合机器学习策略，将物理知识整合到深度神经网络中，即使在实验数据有限的情况下也能…