Celeba
PulseAugur coverage of Celeba — every cluster mentioning Celeba across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新框架揭示了联邦 LoRA 适配视觉 Transformer 中的隐私风险
研究人员开发了一个新框架,用于解决在使用 LoRA 等参数高效微调方法和视觉 Transformer 进行联邦学习时出现的隐私风险。所提出的空间锚定生成反演框架通过将可训练的位置嵌入整合到 ViT 块中,提高了私有数据的重建质量。该方法在 CIFAR-10、CelebA 和 CARS 等数据集上显著提高了 PSNR、SSIM 和 LPIPS 等图像重建指标,表明仅基于 LoRA 的微调本身并不能固有地防止联邦学习中的数据泄露。
-
研究发现,生成的图像在统计上仍可与真实图像区分开来
研究人员调查了真实图像和生成图像之间的统计不可区分性,发现即使经过模糊或缩小等渐进式抽象处理,分类器仍能区分两者。这一点在各种数据集和生成模型类型中都成立,表明伪造图像中的伪影从低到高层都持续存在。研究表明,与通常认为的相比,生成的图像与真实图像的区别更大。
-
新的LOGSI方法使用随机插值法增强了生成模型的引导能力
研究人员开发了LOGSI,一种用于引导使用随机插值法(SI)和流匹配(FM)的生成模型的新方法。与之前专注于条件分数的方法不同,LOGSI解决了FM和SI模型学习到的速度的组合问题。该方法引入了一种基于分数的再平衡机制,以确保精确的条件速度组合,特别是对于否定和异或等逻辑运算,同时还为合取运算提供近似的传输预测器。LOGSI在图像迁移和具有逻辑属性约束的分子编辑等任务中,展示了改进的规则符合性和保真度,优于现有的组合速度基线。
-
新框架CRLoMTL使用低秩矩阵改进多任务学习
研究人员开发了CRLoMTL,这是一个新颖的框架,旨在通过解决负迁移来改进计算机视觉中的多任务学习(MTL)。该方法利用低秩矩阵来解决任务之间的冲突,学习特定于任务的更新,并通过基于奇异值分解的共享子空间融合机制将它们集成起来。使用Swin Transformer骨干网络在PASCAL-Context和NYUD-v2等数据集上进行的实验表明,与单任务基线相比,CRLoMTL在可训练参数显著减少的情况下实现了更高的准确性。
-
新AI框架应对复杂数据表示与全景重建难题
研究人员推出了一种新颖的框架——变分图自动编码器(VAA),用于表示复杂的高维数据,通过学习局部潜在表示的图谱。该方法通过根据证据将数据点分配到特定的图,解决了单一全局坐标系统的局限性,实现了无需标签的自监督数据结构发现。与此同时,一种名为HoloRecon的新全景重建方法已被开发出来,它结合了基于特征的跟踪与前馈模型,在长序列中实现了全局一致的场景几何,在一个新基准上表现优于现有方法。
-
New Part-DINO framework enhances image part discovery using structural cues
研究人员开发了Part-DINO,一个新颖的框架,旨在通过整合结构信息和来自Vision Transformers (ViTs)(如DINO)的自监督特征来改进图像中的部件发现。现有的方法由于ViTs中僵化的patch网格而难以精确界定部件边界,这可能导致来自不同物体部件的patch重叠。Part-DINO通过使用低级图像分割检测到的边界来划分图像区域,从而解决了这个问题。然后,DINO特征在这些区域内进行池化并分组,以识别语义部件,…
-
研究论文分析信息约束下的最优多任务表示
一篇新研究论文分析了在信息预算下的多任务表示的最优预训练目标。该研究将此形式化为多任务信息瓶颈,使用互信息约束来模拟不完整的信息保留。在CelebA和dSprites数据集上的实验表明,压缩可以改变哪种预训练目标表现最佳,并且随着信息速率的增加,任务感知训练甚至可以逆转下游任务的保留顺序。
-
新框架形式化视觉语言模型中的组合推理
研究人员引入了一个名为 Geodesically Decomposable Embeddings (GDE) 的新框架,该框架形式化了大型视觉语言模型如何编码组合语义结构。该框架识别嵌入空间中代表原始视觉概念的方向,从而可以通过向量加法合成未见的属性-对象组合。研究表明,直接使用这些分解后的原始概念足以识别新颖的组合,并深入探讨了流形几何和数据集结构如何影响 CLIP、DINOv2、MERU 和 HyCoCLIP 等各种模型的组合推理。
-
新数据集AfriGuard增强了10种非洲语言的LLM安全性
研究人员开发了AfriGuard,这是一个新的数据集和一套防护模型,旨在提高大型语言模型(LLM)在10种非洲语言和英语方面的安全性及拒绝能力。目前的LLM在这些不同的语言环境中,在安全意图和类别分类方面存在困难,常常产生不充分的回复而不是明确的拒绝。AfriGuard旨在通过提供具有文化根基的数据来解决这一问题,从而开发出能够实现竞争性性能并显著提高拒绝检测效率的防护模型。
-
新研究质疑视觉模型中的线性探针方法论
一篇新论文质疑了使用线性探针来确定预训练视觉模型是否线性编码生成因素的常用方法。研究表明,模型可以通过真正的线性表征或潜在变量位于更大的弯曲流形内的核方法获得高探针准确率。作者提出了三种诊断测试来区分这些情况,发现虽然预训练的视觉 Transformer 模型显示出超越随机的一些结构,但它们未能达到真正的线性世界模型。
-
新的 CS-VGB 方法提高了生成模型采样精度
研究人员开发了一种名为连续状态验证器引导回溯 (CS-VGB) 的新推理时间缩放方法,用于连续生成模型。该技术旨在通过使用额外的计算来评估中间状态并指导生成以获得更好的输出,从而提高采样精度,即使中间验证器不完美。CS-VGB 已在图像生成、面部属性操纵和多机器人规划等各种应用中证明了其恢复所需奖励倾斜分布的能力,并随着推理预算的增加而显示出性能的提高。
-
新的“Hide and Seek”方法在不访问权重的情况下解释黑盒视觉模型
研究人员开发了一种名为 Hide and Seek (HnS) 的新方法来解释黑盒视觉模型。与以前的方法不同,HnS 不需要访问模型权重或概念标注数据集。它通过检索与概念对齐的图像,在这些图像中定位概念,遮蔽定位区域,然后测量模型输出的变化来工作。这种方法允许在各种视觉任务中进行更通用的概念级归因,包括图像字幕和分割,并在验证研究中显示出与地面真实归因的一致性有所提高。
-
新的线性规划方法无需标签即可修剪数据集
研究人员开发了一种新颖的数据集修剪方法,该方法使用线性规划来选择代表性数据子集,而无需标签或模型训练。该方法将无偏子集选择重新表述为方差最小化问题,并从嵌入空间属性推导出几何标准。在 CIFAR-10、MNIST 和 CelebA 基准上的实验表明,该方法在各种数据预算下,在测试准确性方面可媲美甚至超越均匀采样,并且优于现有的几何方法,尤其是在较小的预算下。该框架通过增强小批量多样性,在减少随机梯度方差方面也具有优势。
-
新的EOFlows方法推动了AI中无监督特征发现的进展
研究人员推出了一种新颖的无监督特征发现框架——熵序流(EOFlows),用于表示学习。该方法利用了一个增强了独立机制分析导出的正交性正则化器的归一化流,实现了几何解耦,并使其能够处理CelebA等图像数据集。与现有技术相比,EOFlows能够识别出更多数量的稳定特征,并将它们分为全局、局部和通用类型,并且可以根据其“解释(流形)熵”进行排序,提供了PCA的非线性泛化。
-
新研究通过效率和性能提升推进扩散语言模型 · 已追踪10个来源
研究人员正在开发改进扩散语言模型(DLM)的新方法,重点关注效率和性能。“Clock Diffusion”引入了具有位置相关噪声调度的半自回归连续DLM,在OpenWebText上达到了最先进的界限,并在GSM8K上超越了基线。另一种方法ITC-MoE使用重要性引导的令牌感知压缩来降低混合专家DLM的计算和存储成本,同时保持生成质量。其他进展包括分层连续扩散语言模型(HC-DLM),它将离散令牌生成与连续潜在轨迹相结合;自排斥采样(S…
-
CyclOT框架学习来自非配对数据的二次最优传输图
研究人员推出了一种新颖的神经网络框架CyclOT,用于从高维非配对样本中学习二次最优传输图。这种双向方法利用同步的前向-后向插值以及结合了双向二次作用、判别器约束的Jensen-Shannon端点目标和循环一致性的训练目标。该方法不需要预先计算的样本配对或显式的凸势参数化。理论结果表明,在特定条件下,该方法能够恢复最优传输图,并且在MNIST和CelebA等各种数据集上的实验验证了其性能。
-
新方法LEAPSC增强了深度联合信源信道编码的隐私性
研究人员开发了LEAPSC,一种用于隐私保护的深度联合信源信道编码的新方法。该技术将内循环最小二乘概念擦除集成到变分信息瓶颈编码器中,以防止在数据传输过程中泄露性别或种族等敏感属性。LEAPSC在CelebA和FairFace等数据集上表现出色,在保持攻击者准确率接近偶然水平的同时实现了高任务准确率,优于现有的对抗性基线。
-
新的SAGE框架解决了机器学习模型中的虚假相关性问题
研究人员开发了SAGE,一个新颖的两阶段生成增强框架,旨在解决机器学习模型中的虚假相关性问题。该方法利用聚类衍生的子标签和类别标签来微调生成模型和文本编码器,创建合成数据以平衡训练集中的代表性不足的区域并构建平衡的验证集。SAGE旨在通过减轻对多数虚假属性的依赖来提高模型在少数群体上的性能,其表现优于现有的无分组标签方法。
-
新蒸馏方法将人脸合成速度提升 4 倍以上
研究人员开发了一种方法,利用扩散模型加速合成人脸图像的生成。通过将 Arc2Face 模型中的知识蒸馏到潜在一致性模型中,他们在推理速度上实现了 4.36 倍的加速。蒸馏后的模型保持了具有竞争力的图像质量,在 CelebA 上表现接近,在 WebFace42M 上优于教师模型,使其适用于大规模合成人脸数据集的创建。
-
研究发现,文本引导模型在面部编辑中存在偏见
一项发表在arXiv上的新研究评估了六种用于面部编辑任务的文本引导扩散模型,并将其性能与GANs和3DMMs等成熟方法进行了比较。该研究引入了Face-Edit-Attributes,一个包含169个面部编辑属性的数据集,并分析了大约一百万张图像。研究结果表明,虽然模型在头发和配饰编辑方面表现良好,但在姿势调整方面却表现不佳,并且有过度编辑的倾向,尤其是在涉及深色皮肤男性面孔和老年人的编辑中,观察到了显著的人口统计学偏见。