Neural architecture search
PulseAugur coverage of Neural architecture search — every cluster mentioning Neural architecture search across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
主动学习增强了可微神经架构搜索在3D医学图像分割中的应用
研究人员开发了Active-DiNTS,一种将主动学习与可微神经架构搜索(NAS)相结合的新方法,用于3D医学图像分割。该方法联合优化网络拓扑和标签策展,显著降低了对大量标注预算和多GPU集群的需求。通过使用熵、方差或标准差等不确定性信号对未标记数据进行排序,Active-DiNTS能够有效地选择需要标注的卷,从而在Medical Segmentation Decathlon等基准测试中提高分割精度。
-
新框架协同优化边缘设备的神经网络和硬件
研究人员开发了一个新颖的框架,专门用于优化多核边缘加速器的早退神经网络(EENNs)。该框架联合优化网络架构、量化和硬件部署,以提高能效并降低延迟。通过将这些方面整合到统一的神经架构搜索(NAS)过程中,该系统可以识别高效的工作负载映射并提供准确的性能估算。在CIFAR-10上的实验表明,与静态基线相比,能耗-延迟乘积显著降低,凸显了动态推理在边缘设备上协同设计的重要性。
-
新方法无需训练即可识别高性能可穿戴AI模型
研究人员开发了一种无需广泛训练即可识别可穿戴设备人类活动识别高性能模型的方法。该方法利用零成本代理(ZCP),它与训练后的性能相关,并且可以用最少的计算资源计算。在基准数据集上的实验表明,预测性能最佳的架构的性能与完全训练过的模型相差不到7%,而训练预测性能排名前10的架构则将差距缩小到2%以内,从而节省了大量计算成本。
-
ZAPS 管道通过结合代理信号和拓扑结构来增强神经架构搜索
研究人员开发了 ZAPS,这是一个新颖的四阶段管道,旨在通过有效地将代理信号与架构拓扑相结合来改进神经架构搜索 (NAS)。该方法通过选择非冗余的代理子集并迭代地重新评估它们,解决了现有零成本代理的局限性,这些代理通常嘈杂且相关。ZAPS 利用混合 k-means 策略进行初始种子选择,并使用带有 UCB 获取函数的 XGBoost 集成来对候选者进行排名,在 CIFAR-10 和 CIFAR-100 的 NAS-Bench-201 …
-
用户在双 RTX A3000M/A2000M 上以 20 tokens/sec 的速度运行 Qwen 3.8 模型
Reddit 的 r/LocalLLaMA 子版块上一位用户分享了他的设置,该设置涉及在网络附加存储 (NAS) 设备中运行两块 NVIDIA RTX A3000M 和 A2000M GPU。该配置在使用 Qwen3.8-27B-GSQ-RCO-IQ3_S 模型时,实现了每秒 20 个 token 的速度,并使用了 163k 的上下文窗口。
-
新方法以更低的计算成本加速神经架构搜索 · 跟踪3个来源
研究人员开发了改进神经架构搜索(NAS)的新方法,该过程可能计算成本高昂。一种名为RiPPLE的方法使用来自一小组锚定架构的局部训练数据来预测许多其他架构的性能,从而减少了完全训练的需要。另一种方法CoRA-NAS结合了架构的粗略排序和一个细化阶段,该阶段通过外推早期训练曲线来估计性能,成本大大降低。第三种技术通过提出一种无泄漏的、基于块的方法来解决NAS中Leave-One-Subject-Out(LOSO)评估的成本问题,该方法在…
-
Ugreen推出售价2万美元的本地处理AI智能家居中心
Ugreen推出了一系列新的AI驱动智能家居中心,MasterAgent和HomeAgent,价格从1799美元到19999美元不等。这些设备专为本地AI处理而设计,与基于云的系统相比,提供了增强的隐私性和可能更快的响应时间。高端型号似乎集成了强大的计算能力,这从其高昂的定价中可见一斑。
-
新的神经架构搜索框架生成梵文数字用于AI训练
研究人员开发了NepScript Genesis,一个神经架构搜索(NAS)框架,旨在自动化发现用于合成手写梵文数字的生成对抗网络(GAN)。该框架利用了一种新颖的领域感知评估指标和两阶段流程,其中自适应探索被证明是最有效的NAS策略。合成的数字在FID分数上比基线DCGAN提高了76.19%,并在低资源场景中展示了其效用,通过扩充小型训练数据集,将CNN分类准确率提高了5.5个百分点。
-
新的NAS框架优化混合专家模型
研究人员开发了一个新颖的神经架构搜索(NAS)框架,该框架专门针对混合专家(MoE)模型进行设计。这种新方法显式地优化数据簇与单个专家之间的对齐,并将此分配视为一个可搜索的变量。该方法采用广义期望最大化过程,利用自适应精炼的代理模型来处理复杂的计算,并在图像分类和时间序列预测任务中成功恢复了底层域分区,性能优于基线MoE和NAS方法。
-
OmniCore AI 驱动的 NAS 通过神经架构增强照片搜索功能
OmniCore 推出了全闪存网络附加存储 (NAS) 设备,该设备利用 AI 来增强照片搜索功能。该新系统采用神经架构搜索来优化其 AI 功能,旨在为用户提供更有效、更智能的方式来管理和查找其数字照片。
-
Mastodon 用户表示:向量数据库并非 RAG 的核心;数据语料库和高效的重新嵌入才是
一位 Mastodon 用户认为,在检索增强生成 (RAG) 系统中,向量数据库是最不关键的组成部分。主要资产是数据语料库本身,它通常存储在较旧的网络附加存储 (NAS) 系统上。用户强调了在数据分块更改时重新运行嵌入所带来的显著且通常未被预算的成本,并建议 NetApp 的 ONTAP 快照可以通过在重新嵌入操作后快速回滚来缓解这一问题。
-
LLM引导的框架增强了神经架构搜索代理
研究人员开发了Bi-EZP,一个新颖的双层框架,旨在改进神经架构搜索(NAS)的零成本集成代理的发现。该框架将聚合程序的离散结构优化与其参数的连续校准分离开来。大型语言模型生成可执行的聚合程序,然后使用协方差矩阵自适应演化策略(CMA-ES)进行优化。这些程序在单独的验证集上进行评估,从而使演化过程能够偏好泛化良好的结构。
-
TinyML系统性能与功耗特征详解
本文详细分析了部署在微控制器上的TinyML系统的性能和功耗。研究探讨了在神经网络模型、软件库、操作系统和硬件架构等不同抽象层之间的可编程性与效率之间的权衡。该研究提出了一个量化这些层相关成本的模型,并为优化提供了建议,旨在协助设计人员进行边缘设备的神经架构搜索和CNN推理优化。
-
ATHENA框架通过代理NAS简化基于Transformer的EHR建模
研究人员开发了ATHENA,一个新颖的、基于知识引导的代理神经架构搜索(NAS)框架,专门用于基于Transformer的电子健康记录(EHR)建模。该框架旨在通过利用权重共享的超网和两层跨医院架构先验来减少这些模型通常需要的大量手动调整。ATHENA在六项临床预测任务和两个健康系统上,与四个NAS基线相比,表现出具有竞争力或更优的性能,并显示出更一致的架构选择。
-
LP-NAS框架使用线性规划进行高效神经架构搜索
研究人员推出了一种新颖的神经架构搜索(NAS)框架LP-NAS,该框架利用了线性规划的原理。该方法旨在通过将搜索空间视为连续空间来自动化神经网络架构的设计,从而实现高效优化。LP-NAS利用验证损失梯度和训练损失Hessians来构建线性规划问题,以指导架构更新,平衡泛化能力和参数最优性。在CIFAR-10、CIFAR-100和ImageNet上的实验表明,与DARTS等现有的可微分NAS方法相比,LP-NAS变体实现了更快的收敛速度…
-
新的SFLaaS框架解决了联邦学习中的碳约束问题
研究人员开发了一个名为可持续联邦学习即服务(SFLaaS)的新框架,以应对碳约束联邦训练的挑战。该框架利用神经架构搜索(NAS)创建一个需求驱动的搜索空间,将消费者可持续性配置文件转化为可行的架构区域。SFLaaS 包含一个碳可行性估算机制和一个消费者调度策略,以在动态碳条件下维持参与度和数据覆盖率,并在实验中证明了其有效性。
-
新算法解决了非凸多目标双层优化问题
研究人员开发了新的无Hessian算法MOMEHA和MB-MOMEHA,以解决多目标双层优化问题,特别是那些具有非凸下层的优化问题。这些方法利用Moreau包络将问题转化为具有包络约束的单层优化问题。这些算法通过单循环和无Hessian的计算效率,并结合平滑加权Tchebycheff标量化,保持了计算效率。在少样本元学习和神经架构搜索上的实验表明,这些新方法在帕累托前沿质量方面优于现有方法。
-
新流水线通过NAS和量化优化边缘AI硬件
研究人员开发了一种新颖的三阶段流水线,用于优化边缘AI部署的神经网络架构,重点关注神经架构搜索(NAS)与训练后量化(PTQ)的相互作用。该流水线包括一个与硬件无关的代理前端、一个带过滤的量化桥梁以及一个用于硬件映射的进化后端。一项实证研究分析了INT4 PTQ如何影响NAS帕累托空间,发现FP32零样本代理在覆盖帕累托空间方面可能优于专用的INT4训练代理。
-
新的数字孪生模型提高了光网络建模的准确性
研究人员开发了一种链路自适应数字孪生(LA-DT)模型,以改进混合放大超宽带光网络中的物理层建模。该新模型解决了泛化能力和速度方面的局限性,在各种网络配置下提供了更准确的建模和鲁棒的信噪比估计。LA-DT 模型分解了 GSNR 建模,采用了一种具有线性调制层的新型神经网络架构,以增强跨场景泛化能力,并使用域判别器进行高效的少样本微调。它还明确考虑了拉曼放大器的插入损耗,从而显著提高了对未见场景的预测准确性和适应性。
-
MSTAR框架通过神经架构搜索增强时间序列分类
研究人员开发了MSTAR,一个专为时间序列分类(TSC)设计的神经架构搜索(NAS)新框架。该方法通过考虑时间分辨率、感受野和频率来解决先前方法的局限性,从而能够发现针对个体数据集优化的架构。MSTAR集成了多尺度搜索空间,并可作为Transformer模块的骨干网络,在四个不同的数据集上取得了最先进的性能。