Neural architecture search
PulseAugur coverage of Neural architecture search — every cluster mentioning Neural architecture search across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
LP-NAS框架使用线性规划进行高效神经架构搜索
研究人员推出了一种新颖的神经架构搜索(NAS)框架LP-NAS,该框架利用了线性规划的原理。该方法旨在通过将搜索空间视为连续空间来自动化神经网络架构的设计,从而实现高效优化。LP-NAS利用验证损失梯度和训练损失Hessians来构建线性规划问题,以指导架构更新,平衡泛化能力和参数最优性。在CIFAR-10、CIFAR-100和ImageNet上的实验表明,与DARTS等现有的可微分NAS方法相比,LP-NAS变体实现了更快的收敛速度…
-
新的SFLaaS框架解决了联邦学习中的碳约束问题
研究人员开发了一个名为可持续联邦学习即服务(SFLaaS)的新框架,以应对碳约束联邦训练的挑战。该框架利用神经架构搜索(NAS)创建一个需求驱动的搜索空间,将消费者可持续性配置文件转化为可行的架构区域。SFLaaS 包含一个碳可行性估算机制和一个消费者调度策略,以在动态碳条件下维持参与度和数据覆盖率,并在实验中证明了其有效性。
-
新算法解决了非凸多目标双层优化问题
研究人员开发了新的无Hessian算法MOMEHA和MB-MOMEHA,以解决多目标双层优化问题,特别是那些具有非凸下层的优化问题。这些方法利用Moreau包络将问题转化为具有包络约束的单层优化问题。这些算法通过单循环和无Hessian的计算效率,并结合平滑加权Tchebycheff标量化,保持了计算效率。在少样本元学习和神经架构搜索上的实验表明,这些新方法在帕累托前沿质量方面优于现有方法。
-
新流水线通过NAS和量化优化边缘AI硬件
研究人员开发了一种新颖的三阶段流水线,用于优化边缘AI部署的神经网络架构,重点关注神经架构搜索(NAS)与训练后量化(PTQ)的相互作用。该流水线包括一个与硬件无关的代理前端、一个带过滤的量化桥梁以及一个用于硬件映射的进化后端。一项实证研究分析了INT4 PTQ如何影响NAS帕累托空间,发现FP32零样本代理在覆盖帕累托空间方面可能优于专用的INT4训练代理。
-
新的数字孪生模型提高了光网络建模的准确性
研究人员开发了一种链路自适应数字孪生(LA-DT)模型,以改进混合放大超宽带光网络中的物理层建模。该新模型解决了泛化能力和速度方面的局限性,在各种网络配置下提供了更准确的建模和鲁棒的信噪比估计。LA-DT 模型分解了 GSNR 建模,采用了一种具有线性调制层的新型神经网络架构,以增强跨场景泛化能力,并使用域判别器进行高效的少样本微调。它还明确考虑了拉曼放大器的插入损耗,从而显著提高了对未见场景的预测准确性和适应性。
-
MSTAR框架通过神经架构搜索增强时间序列分类
研究人员开发了MSTAR,一个专为时间序列分类(TSC)设计的神经架构搜索(NAS)新框架。该方法通过考虑时间分辨率、感受野和频率来解决先前方法的局限性,从而能够发现针对个体数据集优化的架构。MSTAR集成了多尺度搜索空间,并可作为Transformer模块的骨干网络,在四个不同的数据集上取得了最先进的性能。
-
LLM 通过新的代码和移动部署方法驱动神经架构搜索
两篇新研究论文探讨了大型语言模型 (LLM) 在神经架构搜索 (NAS) 中的应用。第一篇论文“GraphIR”引入了一种中间表示,以弥合可执行神经网络程序与 LLM 引导的演进之间的差距,在 CLRS 等基准测试中显示出改进的搜索性能。第二篇论文“Device-First Feedback”专注于移动原生 LLM 驱动的 NAS,开发了一个管道,该管道针对设备性能进行模型优化,而不仅仅是 GPU 准确性,在 CIFAR-10 的移动…
-
MinisCloud OS 评测:Minisforum 定制的 Linux NAS
对一款定制的、基于 Linux 的网络附加存储 (NAS) 操作系统 MinisCloud OS 进行了评测。该操作系统专为 Minisforum 硬件开发,旨在为希望构建自有 NAS 系统的用户提供量身定制的解决方案。
-
新方法利用代理模型增强神经集成搜索 · 跟踪到2个来源
研究人员开发了一种新的神经集成搜索(NES)方法,解决了优化单个模型架构及其集成组合的计算挑战。该方法利用两个独立的代理模型来估计预测准确性和多样性潜力,从而有效地指导搜索过程。这种双目标策略旨在识别单独强大且集体多样化的架构,在Fashion-MNIST、CIFAR-10和CIFAR-100等数据集上表现优于标准基线。
-
Hugging Face 综述介绍了用于交通预测的自动化 AI
这篇来自 Hugging Face 的综述论文探讨了神经架构搜索(NAS)作为一种自动化深度学习模型设计方法在交通预测中的应用。文章回顾了各种 NAS 策略,包括基于梯度、进化和单次权重共享的方法,并讨论了它们如何应用于捕捉交通数据的时空特性。论文还强调了当前的挑战,如计算可扩展性、跨城市泛化能力以及 NAS 在时空基础模型上的应用,并提出了未来的研究方向。
-
综述详述交通预测模型的神经架构搜索
一篇新发表在arXiv上的综述论文探讨了神经架构搜索(NAS)在交通预测中的应用。该论文详细介绍了NAS如何自动化深度学习模型(如图卷积网络、循环神经网络和Transformer)的设计,以更好地捕捉交通数据的时空结构。它将NAS方法分为基于梯度、进化和一次性权重共享方法,同时还强调了计算可扩展性和跨城市泛化等挑战。
-
YOLO26模型通过数据增强优化腺病毒检测
研究人员开发了YOLO26,一种用于在透射电子显微镜(TEM)图像中检测腺病毒的新模型。该研究系统地比较了各种数据增强技术,包括NAS、GAS、GMAS和DAS,以确定最有效的配置以提高检测准确性。对数据集进行了重新标注,以创建与YOLO兼容的边界框,实验结果突显了这些增强策略对YOLO26性能的显著影响。
-
YOLO26模型通过数据增强优化腺病毒检测
研究人员在不同大小的YOLO26模型上,针对透射电子显微镜(TEM)图像中的腺病毒检测,对包括NAS、GAS、GMAS和DAS在内的各种数据增强技术进行了基准测试。他们重新标注了一个现有的TEM病毒数据集,为腺病毒创建了YOLO兼容的边界框标注。研究结果强调了特定的数据增强策略在提高YOLO26模型腺病毒检测准确性方面的有效性。
-
新研究探讨先进的边缘智能框架和优化
近期研究论文探讨了边缘智能的进展,重点关注将AI与边缘计算相结合。其中一篇论文介绍了聚类边缘智能(CEI),一个以智能为中心的框架,用于管理和共享分布式系统中的派生智能。另一篇论文研究了多模态边缘智能中压缩、专家混合(MoE)路由和量化之间的复杂交互,强调这些技术不能独立优化。此外,还在进行面向硬件的边缘智能系统设计研究,强调模型压缩和神经架构搜索。还提出了一个独立的框架EdgeFaaS,用于管理物联网、边缘和云的异构资源,以支持各种…
-
Transformer引导的群体智能用于节俭的神经架构搜索
研究人员开发了一个新的神经架构搜索(NAS)框架,该框架显著降低了计算要求,使其可以在NVIDIA RTX 3060等消费级硬件上运行。该方法结合了通过强化学习训练的Transformer控制器和人工蜂群算法,以实现高效的架构设计。该系统成功地为CIFAR-10上的图像分类识别出了一种参数高效的架构,以紧凑的网络实现了84.85%的准确率,并将其应用于信用卡欺诈检测,针对不平衡的表格数据优化了F1分数。
-
新研究深化了对双层优化方法分析和收敛性的研究
研究人员开发了新的分析框架和算法,以提高双层优化方法的效率和收敛性,这对于机器学习中的超参数调整和元学习等应用至关重要。一篇论文引入了“解耦范数分析”(DNA),以实现单循环方法更快的收敛速度,改进了现有的理论保证。另一项贡献提出了一个“即插即用”框架(PnPBO),集成了各种随机估计器,展示了与单层优化相当的最佳样本复杂度。此外,还提出了一种新颖的信息论方法用于双层问题的贝叶斯优化,并为双层和最小极大优化引入了加速一阶方法,其中一种…
-
Self-EvolveRec框架通过LLM反馈增强推荐系统
研究人员开发了Self-EvolveRec,一个旨在通过解决传统设计方法的局限性来改进推荐系统的新框架。与依赖固定搜索空间或标量指标的现有方法不同,Self-EvolveRec结合了用户模拟器进行定性反馈和模型诊断工具进行内部验证。该系统还采用模型协同进化策略,以确保评估标准与推荐架构同步适应。实验表明,Self-EvolveRec在推荐性能和用户满意度方面均优于当前最先进的方法。
-
Bi-NAS框架利用LLM增强推荐系统解释
研究人员开发了一个双层神经网络架构搜索(Bi-NAS)框架,以改进推荐系统的解释。该框架同时优化了交叉注意力机制和特征交互函数。通过将大型语言模型(LLMs)与零样本提示相结合,Bi-NAS旨在为推荐生成更有效和个性化的理由。在四个数据集上的评估表明,Bi-NAS提高了推荐准确性和解释的质量。
-
Bi-NAS框架通过LLM增强推荐系统解释
研究人员引入了Bi-NAS,一个旨在增强推荐系统中解释的有效性和个性化的新框架。这种双层神经网络架构搜索方法优化了交叉注意力机制和特征交互函数。通过将大型语言模型与零样本提示相结合,Bi-NAS为推荐生成了更量身定制的理由。在真实数据集上的评估表明,Bi-NAS不仅提高了推荐准确性,还显著增强了提供给用户的解释的清晰度和可靠性。
-
新框架为通用边缘任务采集闲置的AI芯片
研究人员开发了一个新框架,通过利用未充分利用的AI芯片执行通用任务来优化边缘的人工智能计算。该方法使用神经架构搜索将传统计算任务转换为神经网络模型。然后,在AI引擎空闲时运行这些近似模型,由运行时调度器管理,确保不影响主要的AI工作负载。实验证明,在AIoT处理器上,边缘处理任务的性能显著提升。