PulseAugur
中
实时 20:36:26
实体 ViT-B/16

ViT-B/16

PulseAugur coverage of ViT-B/16 — every cluster mentioning ViT-B/16 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
19
90 天内 61
发布 · 30天
0
90 天内 0
论文 · 30天
19
90 天内 61
层级分布 · 90 天
主题
关系
情绪 · 30 天

6 天有情绪数据

最近 · 第 1/4 页 · 共 63 条
  1. TOOL · CL_364332 ·

    新方法使用延时图像的颜色编码进行无标记病毒感染检测

    研究人员开发了一种名为时间伪RGB编码的新方法,无需标记数据即可检测细胞中的病毒感染。该技术将三个时间偏移的明场图像堆叠为红、绿、蓝通道,使标准卷积神经网络(CNN)能够分析感染进展。在人脑内皮细胞中委内瑞拉马脑炎病毒(VEEV)的实验中,该方法达到了91.6%的准确率,优于单帧模型,尤其是在感染后期。

  2. TOOL · CL_360472 ·

    贝塞尔曲线路径方法优化视觉基础模型适应

    研究人员开发了一种名为贝塞尔曲线路径的新方法,用于适应冻结的视觉基础模型。该技术侧重于提示如何在不同数据分布之间移动,而不仅仅是它们的最终目的地。通过分析共享注意力机制带来的“传输成本”,研究发现,在特定条件下,尤其是在处理两个不同的数据端点时,可以实现最优的提示路径。在ViT-B/16和VTAB-1k上的实验表明,与线性或交叉熵训练的路径相比,贝塞尔曲线提示路径可以减少特征动作并提高在分布变化下的准确性。

  3. TOOL · CL_356614 ·

    新的JNSP方法在无数据情况下合并AI模型,提高准确性

    研究人员开发了一种名为联合零空间投影(JNSP)的新方法,用于合并独立微调的AI模型,而无需任何数据或梯度步骤。该技术将模型合并视为子空间干扰问题,识别并移除位于其他任务子空间中的任务向量分量。JNSP是一个闭式、与顺序无关的过程,在CLIP图像分类任务上的准确性显著高于现有的TIES-Merging和Task Arithmetic等方法,比最强的基线高出11个多点。

  4. RESEARCH · CL_344209 ·

    DISCERN 方法增强了 Transformer 的增量机器学习遗忘

    研究人员开发了 DISCERN,一种新颖的增量机器学习遗忘方法,它解决了在保留剩余知识的同时从训练模型中顺序删除数据类别的挑战。DISCERN 利用从各种参数分布(包括欧几里得和方向族)采样的合成嵌入来替代对原始训练数据的直接访问。这种方法对于 Transformer 架构特别有效,与现有方法相比,在增量遗忘场景中表现出更高的稳定性和更少的遗忘类别复现。

  5. TOOL · CL_342430 ·

    天文学图像分类器的准确性受上下文影响,而非仅形态

    arXiv上发表的一项新研究评估了小样本天文学图像分类器的性能,揭示了形态以外的因素显著影响准确性。研究人员开发了一个数据集来衡量对象重用、视场差异、获取设置和目录属性对分类任务的影响。研究结果表明,虽然分类器可以泛化到未见过的对象,但图像上下文和元数据包含大量类别信息,因此高准确性并非仅表明学习到了目标形态。

  6. TOOL · CL_327350 ·

    用于乳腺影像的联邦人工智能面临混淆和隐私挑战

    研究人员探索了一种用于乳腺癌影像的隐私保护联邦学习框架,该框架使用了视觉-语言和纯视觉模型。他们发现,虽然模型在区分正常与患病病例方面取得了高识别率,但采集年份混淆了结果,良性与恶性肿瘤的区分仍不确定。移除视觉-语言模型中的文本通路可将通信成本减半而不会牺牲准确性,但差分隐私显著降低了性能。

  7. TOOL · CL_325021 ·

    新方法揭示CLIP微调更新的功能内容

    研究人员开发了新的方法来理解CLIP模型微调更新的功能内容。通过采用恢复和保留等技术,他们分析了特定的权重变化如何促成在各种数据集上的性能提升,包括合成金融图表、Flowers102、EuroSAT和FGVCAircraft。研究发现,仅注意力值-输出更新就能显著提高准确性,并且这些权重比随机子集恢复更多的损失改进,表明它们在模型行为中起着至关重要的作用。

  8. TOOL · CL_324522 ·

    Recursive CLIP 模型通过循环块探索参数效率

    研究人员开发了新的视觉-语言模型 rCLIP 和 r^2CLIP,它们使用循环 Transformer 块而不是独立参数化的块。这种方法增加了参数共享,同时保持了计算深度,可能带来更具参数效率的模型。研究表明,CLIP 模型可以容忍显著的循环块重用,尽管影响因编码器和任务而异,为视觉-语言模型提供了一个新的设计空间。

  9. TOOL · CL_317582 ·

    LoRA Superposition技术将模型准确率提升30% · arXiv论文

    研究人员引入了一种名为LoRA Superposition的新技术,该技术允许对在同一任务上独立训练于不同预训练骨干模型的LoRA(Low-Rank Adaptation)模型进行求和。该方法展示了显著的改进,在各种ViT-B/16 CLIP骨干模型和图像分类任务上实现了30.21个百分点的平均准确率提升。LoRA的精确求和表现几乎与单独训练的LoRA相当,这表明冻结的骨干模型可以隐式选择自己的组件,而无需显式路由或跨模型对齐。

  10. TOOL · CL_317487 ·

    新的GM-GReFEL模型增强面部表情识别能力

    研究人员推出了一种新颖的时空状态空间网络GM-GReFEL,用于动态面部表情识别。该模型通过采用与序列长度呈线性关系的Modulated GroupMamba骨干网络,解决了诸如剪辑长度的二次计算成本和噪声标签等挑战。一个几何感知模块通过在网络不确定时整合面部几何信息,进一步增强了鲁棒性。GM-GReFEL在DFEW、MAFW和FERV39k等基准数据集上表现出有竞争力,并且在时间建模方面观察到了适度的益处。

  11. RESEARCH · CL_312531 ·

    新基础模型和适应技术用于脑部MRI研究

    两篇新研究论文探讨了基础模型在医学影像中的应用,特别关注结构性脑部MRI。第一篇论文介绍了Brain2Vec,一个在超过74,000张MRI扫描上预训练的自监督3D基础模型,该模型在脑龄预测等下游任务中表现出更高的准确性和更快的收敛速度。第二篇论文研究了LoRA适应技术在脑部MRI的Vision Foundation Models中的应用,发现性能相似的模型可能表现出不同的内部机制和跨任务迁移行为。该研究表明,早期到中期层的适应对于分…

  12. RESEARCH · CL_314770 ·

    新的ALPS视觉编码器统一了世界模型的预测、语言和像素任务

    研究人员推出了一种新颖的视觉状态编码器ALPS,旨在作为世界模型的基础组件。与以往专注于预测、语言对齐或像素重建的编码器不同,ALPS在一个补丁令牌集中统一了这三种能力。ALPS仅使用静态图像和文本进行预训练,在状态预测、语言对齐和像素重建任务中表现强劲,在LIBERO基准测试中优于其他ViT-B模型,并有望增强世界模型的规划和视觉检查能力。

  13. TOOL · CL_307789 ·

    新的SAGA方法可减轻AI模型中的灾难性遗忘

    研究人员开发了一种名为稀疏自编码器几何锚定(SAGA)的新方法,以应对AI模型持续学习中的灾难性遗忘问题。SAGA使用在任务边界训练的稀疏自编码器,在表示漂移上创建局部低秩约束,在适应新任务的同时保留先前学到的信息。该方法通过在CIFAR-100、CUB-200和ImageNet-R等多个基准测试中实现更高的类别增量准确性和减少遗忘,证明其性能优于现有方法。

  14. TOOL · CL_300893 ·

    新的TADrop方法通过自适应稀疏化改进模型合并

    研究人员开发了TADrop,一种新颖的模型合并方法,解决了统一稀疏率的局限性。与先前的方法不同,TADrop根据幅度分布确定特定于张量的保留率,从而实现自适应稀疏化。这种即插即用技术在包括LLM和LoRA合并在内的各种基准和模型类型上都显示出了一致的改进,与EMR-Merging等现有方法相比取得了显著的进步。

  15. TOOL · CL_300742 ·

    新的防御方法保护机器学习模型免受黑盒查询攻击

    研究人员开发了一种名为梯度混淆防御(GCD)的新防御机制,以保护机器学习模型免受基于分数的黑盒查询攻击。该方法无需重新训练模型,通过改变返回给攻击者的概率向量来起作用。GCD旨在通过使暴露的logit梯度与真实的对抗性损失梯度不对齐,来增加对手构造对抗性样本的复杂性。在CIFAR-10和ImageNet等数据集上,使用ResNet和ViT等架构进行的理论分析和实验表明,GCD在不影响预测准确性的情况下,能有效增强对最先进攻击的鲁棒性。

  16. TOOL · CL_300649 ·

    新方法认证检测对抗性AI攻击

    研究人员开发了一种检测深度学习分类器对抗性攻击的新方法,重点在于认证恶意输入被标记,而不是确保模型鲁棒性。该方法利用Lipschitz-边际分析将问题简化为估计单个Lipschitz常数。所提出的检测器可以应用于任何预训练分类器而无需重新训练,在MNIST、CIFAR-10和ImageNet-1k等数据集上,针对各种骨干架构,其性能与现有方法相比具有竞争力或更优。

  17. TOOL · CL_294698 ·

    新的WoodBR-Cross数据集提高了AI木材物种识别的准确性

    研究人员推出WoodBR-Cross,一个旨在提高图像中木材物种识别准确性的新数据集。该数据集包含38个物种的4800多张图像,关键在于将图像与个体树木关联起来,以防止因在同一棵树的图像上进行训练和测试而产生的乐观性能估计。在ResNet-50、ConvNeXt-Tiny和ViT-B/16等模型在该基准上的评估显示,当模型在树木级别分离的数据上进行训练和测试时,性能可能会下降,这凸显了该数据集在更现实评估中的实用性。

  18. TOOL · CL_289348 ·

    新的ComCLIP框架增强了VLMs的CLIP视觉编码器

    研究人员提出了ComCLIP,一个用于精炼CLIP视觉编码器的新框架,该编码器是LLaVA等模型的基础。与之前的发现相反,他们证明了当对比温度设置得当时,对比预训练是有效的。ComCLIP冻结文本编码器,并使用有温度的对比损失、MSE锚定损失以及来自DINOv2的关系蒸馏。该方法在零样本分类上与现有基线相匹配,并提高了视觉特征的可迁移性,同时保持了与LLaVA的下游兼容性。

  19. TOOL · CL_275496 ·

    新研究探讨视觉 Transformer 中适配器放置的最优解

    研究人员探索了两种不同的方法来优化持续学习模型(特别是在视觉 Transformer 中)中特定任务适配器的放置。一种方法是放置搜索,涉及在各种块配置中训练适配器,并观察到倒 U 形的准确率曲线,在中间深度达到峰值。另一种受神经科学启发的方法,利用来自视觉皮层的脑功能成像 (fMRI) 读出数据来指导适配器分配,无需广泛搜索,即可在减少存储和运行时间的情况下实现具有竞争力的性能。

  20. TOOL · CL_273261 ·

    新的SRTS-BCE方法在数据有限的情况下提高了AI分类器的校准性能

    研究人员开发了一种名为信号路由温度缩放(SRTS-BCE)的新方法,用于提高AI分类器的校准性能,特别是在验证数据有限的情况下。该技术引入了一种低容量、风险条件的校准器,在校准预算较小时,其性能优于传统的标量方法,甚至优于更高容量的自适应方法。SRTS-BCE在CIFAR-100等数据集上使用ViT-B/16等模型取得了更好的性能,证明了其在数据受限场景下的有效性。