Edge devices and associated networks utilising microservices
PulseAugur coverage of Edge devices and associated networks utilising microservices — every cluster mentioning Edge devices and associated networks utilising microservices across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
可微分逻辑门网络为边缘设备提供低延迟脑电图分类
研究人员开发了可微分逻辑门网络（Diff-Logic）作为一种新颖的方法，用于在边缘设备上进行低延迟脑电图（EEG）分类。该方法将神经网络模型转换为纯布尔电路，可通过高效的按位 CPU 操作执行，从而绕开了传统浮点运算的计算需求。在比较 Diff-Logic 与多层感知机（MLP）和二值化神经网络（BNN）在痴呆症检测和情绪识别任务上的实验中，Diff-Logic 展现出具有竞争力的性能，同时显著降低了延迟和模型尺寸。值得注意的是，即…
-
研究质疑视觉 Transformer 在定位任务中 Token 的必要性
一项新发表在 arXiv 上的研究，利用视觉 Transformer 探讨了视觉定位（VPR）中所有 Token 的必要性。研究人员开发了一个基准来评估 Token 缩减方法，发现通过显著减少计算成本和提高推理速度，同时对准确性的影响极小。这些发现为在资源受限的边缘设备上部署高效的 VPR 系统提供了实用见解。
-
自适应模型压缩提升了 Transformer 在边缘设备的效率
研究人员开发了自适应模型压缩 (AMC)，这是一个旨在使 Transformer 模型在资源受限的边缘设备上更高效的新框架。AMC 根据推理过程中不同数据 token 的重要性动态分配硬件资源。这种方法在特定硬件上将能耗降低了 59.2%，吞吐量提高了 2.24 倍，而准确率仅下降了 3.6%。
-
新论文概述了微控制器的嵌入式机器学习工作流程
一篇新论文详细介绍了一个在微控制器上实现机器学习的全面工作流程，重点关注资源受限设备的工程挑战。它涵盖了数据采集、信号预处理、特征提取、模型验证以及设备端推理的部署策略。该研究以惯性运动识别和关键词识别为例，说明了稳健的嵌入式机器学习系统的实际设计规则。
-
联邦自动编码器在边缘设备上增强了具有隐私保护的心电图异常检测
研究人员开发了一种用于在边缘设备上检测心电图（ECG）数据异常的隐私保护联邦自动编码器系统。该系统结合了联邦学习、差分隐私和INT8量化，以维护患者的机密性，实现在Raspberry Pi 4等受限硬件上的实时推理，并在来自不同医院的非独立同分布（non-IID）数据下也能实现高质量的检测。研究发现，联邦学习的性能与集中式基线相当或更优，而INT8量化在准确性损失极小的情况下显著减小了模型大小和延迟，证明了隐私保护和边缘部署可以同时实现。
-
NuWa方法为边缘设备创建专门的、轻量级的视觉Transformer
研究人员开发了NuWa，一种用于创建轻量级、特定类别的视觉Transformer（ViTs）的新颖方法，该方法针对边缘设备进行了优化。现有的压缩技术通常会保留冗余信息，导致在专门任务上的性能不佳。NuWa通过净化知识以去除对特定类别有害的权重，并使用闭式优化高效推导紧凑型ViTs来解决此问题。这种方法在无需进行后剪枝再训练的情况下，显著加快了推理速度并提高了特定类别的准确性，在效率和性能方面均优于当前方法。
-
模型多样性可防御边缘设备上的小型语言模型攻击
研究人员开发了一种名为“模型多样性”的新型防御系统，用于检测边缘设备上小型语言模型训练过程中的对抗性攻击。该方法涉及同时训练多个语言模型，每个模型使用不同的边缘节点子集。通过监控这些模型之间的差异，系统可以识别并隔离试图污染训练数据的受损节点。评估表明，在分布式学习环境中，该方法比传统的单一模型防御更能有效地检测此类攻击。
-
新的BitTP方法使LLM能够用于边缘设备轨迹预测
研究人员开发了BitTP，这是一种使大型语言模型（LLM）适用于边缘设备轨迹预测的新颖方法。BitTP将基于LLM的预测器转换为轻量级的比特线性架构，特别优化了1.58位权重量化，同时保持激活的全精度。这种方法不仅显著减少了内存使用和推理延迟，而且与全精度LLM相比提高了预测质量，展示了其在资源受限硬件上部署先进AI的潜力。
-
ZipMoE 系统实现了大型语言模型的高效设备端服务
研究人员开发了 ZipMoE，这是一个旨在提高混合专家（MoE）大型语言模型在设备端部署效率的系统。ZipMoE 利用无损压缩和缓存亲和调度方法，在不牺牲模型准确性的前提下，减小了内存占用并提高了推理速度。实验表明，在边缘设备上，延迟显著降低，吞吐量显著提高，推理瓶颈从 I/O 转移到了计算。