semi-supervised learning
PulseAugur coverage of semi-supervised learning — every cluster mentioning semi-supervised learning across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的双头优化通过半监督学习提升VLM知识迁移能力
研究人员开发了双头优化(DHO)技术,通过有效地将知识从强大的视觉语言模型(VLM)迁移到更小的、特定任务的模型,来改进半监督学习。DHO解决了在结合监督和蒸馏损失时出现的梯度冲突问题,从而实现更好的特征学习和性能。在多个数据集上的实验表明,DHO优于标准的知识蒸馏方法,在ImageNet半监督学习和分布外泛化方面取得了最先进的成果。
-
半监督学习通过选择性未标记数据提升QSAR模型
研究人员探索了半监督学习(SSL)在定量结构-活性关系(QSAR)建模中的有效性,特别是在使用ChEMBL等大型化学数据库时。他们的研究涉及10个QSAR数据集和超过40万个未标记分子,评估了三种SSL算法和四种数据选择策略。研究结果表明,未标记数据确实可以增强QSAR模型,某些配置的表现优于监督基线。值得注意的是,选择少量化学结构多样的分子比仅仅增加未标记数据的数量更有益,这表明未标记数据集的质量和组成对于该领域成功的SSL至关重要。
-
未标记数据选择提升化学研究中的QSAR模型
一项新研究探讨了半监督学习(SSL)在定量结构-活性关系(QSAR)建模中的有效性,特别是在标记数据稀缺但未标记数据丰富的化学等领域。研究人员使用一个包含超过40万个未标记分子的庞大数据集,评估了三种SSL算法——自训练、协同训练和标签传播——以及四种数据选择策略。研究结果表明,未标记数据确实可以增强QSAR模型,并且在多个数据集上,特定的选择方法优于监督基线。值得注意的是,研究表明,所选未标记分子的多样性和化学距离比单纯的数量对实现…
-
新的先驱学生方法增强了半监督学习
一篇新的研究论文介绍了先驱学生(PiS)方法,以改进教师-学生框架内的半监督学习(SSL)。该方法通过使用一个独立学习并定期将知识传回主模型的辅助分支来解耦优化。PiS模块解决了参数耦合和梯度不平衡的问题,旨在增强SSL方法的泛化能力。
-
新的半监督学习方法采用中心-辐射几何结构以提高准确性
研究人员开发了一种新颖的半监督学习方法,该方法解决了标记数据和未标记数据之间类别分布和标签空间不匹配的问题。他们的方法构建了一种“中心-辐射”潜在几何结构,其中已知类别均匀分布在中心周围,未知类别样本被引导至该中心。这种结构化组织增强了特征的可区分性,并提高了伪标签的质量,在实验中比现有最先进的方法最高提高了 3.25%。
-
新的VAST方法通过解耦标签生成来改进半监督学习
研究人员开发了VAST(Veracity-Aware Semi-Supervised Training),一种新颖的半监督学习方法,它将伪标签生成与分类器训练解耦。该方法在将概率信念提炼到分类器之前,从冻结的自监督嵌入的几何形状中推断出概率信念,从而解决了当前SSL在冷启动场景下的不适定性问题。VAST利用Veracity Matrix聚合标签证据,并利用Veracity Propagation扩展覆盖范围,在多个数据集上优于现有的基…
-
AI模型识别肝癌预测生物标志物 · 跟踪2个来源
研究人员开发了利用人工智能预测和识别肝细胞癌(HCC)生物标志物的新方法。一项研究构建了一个包含770个患者样本及其基因表达水平的数据集,利用半监督学习和XGBoost实现了96.5%的分类准确率。另一项研究采用深度学习和可解释AI分析转录组数据,识别出DNAJB14为关键影响基因,并使用基于15个选定基因训练的模型实现了90.74%的准确率。
-
深度学习模型在标签高效癌症诊断方面展现出潜力
本研究论文探讨了监督学习、半监督学习和自监督学习这三种学习环境,旨在利用深度学习模型实现高效的癌症诊断。研究人员在肾癌、肺癌和乳腺癌的数据集上评估了Residual Network-50、Visual Geometry Group-16和EfficientNetB0。研究结果表明,半监督学习是传统监督学习的可行替代方案,尤其是在标记数据稀缺的情况下,它能以更低的计算成本和更少的标记样本取得可比的结果。
-
新的C-Score框架评估SSL在数据污染下的鲁棒性
研究人员推出了一种新颖的框架C-Score,旨在评估半监督学习(SSL)模型的鲁棒性,特别是在面对被分布外(OOD)样本污染的未标记数据时。传统的SSL方法通常假设数据是干净的,但C-Score解决了“隐藏崩溃”问题,即尽管内部性能下降,模型性能指标可能仍显示稳定。该框架评估了预测、特征表示和优化空间中的训练行为,利用了PLE、CCI、Sem-Drift和Grad-Align等指标。在CIFAR-10和CIFAR-100数据集上的实验…
-
新框架应对半监督医学图像分割挑战 · 已追踪2个来源
两篇新研究论文提出了用于半监督医学图像分割的新颖框架,解决了标注数据有限和类别不平衡的挑战。第一篇论文介绍了语义类别分布学习(SCDL),这是一个旨在通过学习结构化的类别条件特征分布来减轻监督和表示偏差的模块。第二篇论文提出了一个视觉-语言增强基础模型(VESSA),该模型将VLM集成到半监督学习框架中,使用模板引导的伪标签来提高分割精度。
-
LLM-as-a-Judge框架通过新颖的奖励系统提升AI推理能力
研究人员开发了一种新颖的半监督学习框架,该框架利用大型语言模型(LLM)作为裁判来将知识蒸馏到AI模型中。该方法采用连续的思维链(CoT)奖励,该奖励由裁判LLM的输出来计算,为未标记数据提供有效的训练信号。该框架在利用地面真实奖励的方法方面,表现出相当或更优的性能,尤其是在未标记数据增加的情况下。将这种基于LLM的奖励与半监督设置中的可验证奖励相结合被证明具有协同作用,在各种任务和模型架构中将数学推理能力提高了5-10%。
-
新的PC-Seg框架使用稀疏2D标注进行准确的3D OCT图像分割
研究人员开发了PC-Seg,一种用于3D光学相干断层扫描(OCT)图像分割的新型框架。该方法利用半监督学习,显著减少了对广泛手动标注的需求,而手动标注是医学成像中的常见瓶颈。PC-Seg利用来自稀疏2D标注的跨视图一致性来生成可靠的伪标签,然后使用这些伪标签来训练3D分割模型。实验表明,PC-Seg在仅需要少量数据标注的情况下,实现了与完全监督方法相媲美的准确性。
-
新的MTSSL框架统一了半监督学习中的伪标签阈值
研究人员推出了一种新颖的框架——元阈值半监督学习(MTSSL),它统一了对半监督学习中伪标签阈值的理解。该研究从统计学上解释了阈值参数如何平衡正确和不正确的伪标签,并表明精确的最优值可能并非必需。通过将阈值视为可通过微分进行优化的可更新参数,MTSSL在大量实验中表现出卓越的性能,并表明在未来的半监督学习算法设计中,阈值选择可能得到放宽。
-
新求解器加速图 $p$-拉普拉斯半监督学习
研究人员开发了一种新颖的图 $p$-拉普拉斯半监督学习求解器,该求解器实现了近线性时间复杂度。这种新方法解决了现有求解器的局限性,尤其是在 $p$ 值较高时系统可能变得病态的问题。通过在 $p$ 中采用连续性方法和阻尼弦牛顿法,该求解器保持了良态系统,与直接分解方法相比,实现了显著的加速和更低的内存使用。该方法在大规模图族和 MNIST 等基准数据集上表现出改进的性能,优于标准的二次方 ($p=2$) 方法。
-
新框架通过半监督学习增强胎儿超声分割
研究人员开发了DACL,一种旨在改进胎儿超声图像分割的新型半监督框架。该方法利用了一个轻量级卷积网络和一个基于Transformer的网络,通过一致性正则化利用有限的标记数据和未标记数据。DACL引入了一种双一致性损失,该损失对齐分布预测和不确定性,旨在减少不可靠的伪标签的影响。该框架还结合了基于插值的混合增强策略以提高鲁棒性,在极端标注稀缺的情况下显著提高了边界精度。
-
新的蒸馏方法增强了车辆碰撞规避AI性能
研究人员开发了一种实例感知知识蒸馏框架,以改进碰撞规避系统的半监督学习。该方法通过结合教师模型的领域先验知识和基础模型的实例中心知识来生成伪标签,旨在降低边缘部署的标注成本和计算需求。由此产生的轻量级学生模型可以实时执行多种密集预测任务,例如实例分割和单目深度估计,在分割方面优于较大的教师模型,同时保持深度估计的性能。该系统已在乡村俱乐部环境中使用自定义数据集和低成本边缘设备进行了验证。
-
新的SADA方法通过聚合黑盒模型改进半监督学习
研究人员开发了SADA,一种在半监督学习场景中安全自适应地聚合多个黑盒模型预测的新方法。该方法保证性能不差于仅使用标记数据,并且如果任何单个预测是完美的,则可以实现最佳效率。该方法已通过模拟和真实数据分析得到证明,并提供了一个配套的R包用于实现。
-
新SCKAN方法利用KAN增强胰腺分割
研究人员开发了SCKAN,一种利用Kolmogorov-Arnold网络(KANs)的新型半监督胰腺分割学习方法。该方法通过引入结构共识学习,解决了现有方法因形态变异和稀疏监督而存在的局限性。SCKAN结合了结构约束原型一致性学习(SPCL)以实现无偏的结构表示,以及基于共识的Kolmogorov-Arnold融合(CKaF)以减少形态特异性偏差,并在实验中证明了其有效性。
-
医学AI研究指出分割模型存在过度自信问题
研究人员发现,在3D医学图像分割的半监督学习中存在严重的过度自信问题。他们认为,当前的方法常常将预测置信度与真实不确定性混淆,导致确认偏差。此外,许多基准测试中缺乏专门的验证集,鼓励使用测试集进行验证,从而夸大了性能估计,并造成了过拟合的“军备竞赛”。为解决此问题,提出了一种新框架,该框架明确区分了置信度和不确定性,并纠正了不同数据空间中的偏差,提倡更严格的基准测试实践。