adapter
PulseAugur coverage of adapter — every cluster mentioning adapter across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新架构提升低秩模型中的时序关系抽取能力
研究人员开发了一种名为卷积瓶颈交互(CBI)的新架构,以在参数高效微调场景中改进时序关系抽取。该方法通过使用深度卷积增强事件表示和使用逐元素乘法进行事件-事件交互,来解决低秩瓶颈中的信息流限制。CBI在多个数据集和骨干模型上都显示出显著的性能提升,同时计算成本增加极少。
-
新框架为大语言模型特征生成自然语言解释
研究人员开发了SAEVerbalizer,一个旨在为从大语言模型(LLMs)中提取的稀疏自编码器(SAEs)特征生成自然语言解释的新框架。目前解释SAE特征的方法通常肤浅且计算效率低下。SAEVerbalizer通过将SAE解码器方向注入LLM的表示中,并对模型进行微调以直接从这些方向生成解释来解决这一问题。实验表明,这种方法能有效地泛化到新特征,跨不同的SAE字典进行迁移,并可适配用于各种LLMs。
-
AdapterMoE架构提高了作物病害识别效率
研究人员开发了AdapterMoE,一种新颖的二阶段硬路由混合专家(Mixture-of-Experts)架构,专为多作物病害识别而设计。该系统旨在通过使用RouterHead进行作物分类和拒绝,并结合Energy+KNN模块进行分布外检测,来提高效率和灵活性。该架构在冻结的EfficientNet-B0骨干网上使用了每种作物的Adapter,实现了局部更新,并避免了软路由MoE模型中常见的专家崩溃问题。AdapterMoE在准确性方…
-
PEFT方法通过最少的参数调整提升实例分割效果
研究人员调查了参数高效微调(PEFT)方法,特别是适配器(adapters)和LoRA,在基于Transformer的模型用于实例分割任务中的应用。研究发现,这些技术可以在仅微调模型参数的一小部分的情况下实现具有竞争力的性能,与传统的微调相比显著降低了计算成本。在每个Transformer块中使用2-3个适配器时观察到最佳结果,而LoRA在应用于可变形注意力(deformable attention)时显示出特别的潜力,有时性能优于适配器配置。
-
IO-AI TECH 支持 ICRA 2026 机器人竞赛,提供数据与研究支持
IO-AI TECH 正在参加 ICRA 2026,为第二届 WBCD 竞赛提供数据和硬件解决方案。他们将在 Hugging Face 上提供 SenseXperience UMI 数据集用于物流分拣任务,强调任务相关数据对具身智能的重要性。此外,IO-AI TECH 与吉林大学合作,发表了关于名为 Adaptor 的辅助遥操作系统的研究,该系统使用少样本学习实现跨操作员泛化。