t-Distributed Stochastic Neighbor Embedding
PulseAugur coverage of t-Distributed Stochastic Neighbor Embedding — every cluster mentioning t-Distributed Stochastic Neighbor Embedding across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
作者可视化 RAG 向量以识别数据缺陷
作者探索了其网站检索增强生成 (RAG) 系统由 `openai/text-embedding-3-small` 模型生成的向量的可视化表示。使用 PCA、t-SNE 和 UMAP 等降维技术,他们将 1,128 个文本块映射到二维空间以理解向量空间。分析表明,虽然这些图提供了对数据结构的见解,但它们与搜索准确性没有直接关联,并且需要文本验证来解释集群并识别潜在的缺陷,例如拆分的 URL。
-
RAG向量图揭示网站URL跨越多个块
一位用户分享了他们使用检索增强生成(RAG)分析其网站索引的经验。他们使用t分布随机邻域嵌入(t-SNE)可视化了512维的1,128个块,该方法保留了原始数据最近邻的75.1%。这种可视化有助于识别出URL被分割到两个块中的问题。
-
AI代理自动化数据可视化算法设计与精炼
研究人员开发了代理式AI流程,以自动化数据可视化算法的设计和精炼。例如,AutoManifold使用LLM编排,从基本组件组合新的流形嵌入算法,并根据用户指定的结构优先级进行定制,其性能优于t-SNE和UMAP等传统方法。另一个系统将基于LLM的定性判断与定量评估相结合,以迭代地精炼可视化图表,提供解释指标并建议配置改进以更好地发现模式的报告。
-
AutoManifold 使用 LLM 设计新颖的数据可视化算法
研究人员开发了 AutoManifold,这是一个使用大型语言模型自主设计数据可视化算法的代理式(agentic)流水线。该系统根据用户指定的结构保持偏好,从原始组件词汇中组合出新的流形嵌入算法。实验表明,AutoManifold 生成的新算法在更好地朝着用户定义的属性进行引导,同时不牺牲数据完整性的情况下,其性能优于 t-SNE、UMAP 和 PaCMAP 等成熟方法。
-
新的MEDALLION框架有助于解释低维数据嵌入
研究人员开发了MEDALLION,一个旨在解释低维数据嵌入的新框架。该方法使用知识蒸馏和神经特征归因来解释原始特征如何贡献于这些降维表示,解决了t-SNE和UMAP等黑盒方法的挑战。在MNIST和单细胞转录组学等数据集上的实验证明了MEDALLION提供有见地的特征归因的能力。
-
新指标量化非线性嵌入的局部和全局保真度
研究人员开发了一种名为DLP曲线的新指标,用于量化非线性嵌入(如t-SNE和UMAP)的局部和全局保真度。该曲线衡量映射在多大程度上保留了每个点的最近邻,为局部(L)和全局(G)结构保留提供了不同的分数。该方法在包含多达138万个点的数据集上进行了验证,并与已建立的全局分数一致。此外,该研究还引入了一种实体保真度度量,用于预测映射何时会根据其大小丢失特定实体,发现在代理记忆数据集中,t-SNE和PCA的保真度在大约15万次通过时交叉。
-
新的SR-tSNE方法在数据嵌入中保持邻居顺序
研究人员开发了一种新的流形学习方法,称为平滑秩t-SNE (SR-tSNE),旨在保持数据嵌入中邻居的顺序,这与仅保留邻域集的传统方法不同。SR-tSNE在其损失函数中加入了一个可微分的秩项,使用sigmoid近似来确保真正的邻居的排名高于不相关的点。该方法在包括图像、文本和语音数据在内的八个基准测试中表现出优越的性能,在秩保持和邻域重叠方面优于12种基线方法。该方法在标签传递和细胞类型发现等下游应用中也显示出显著的改进,甚至在日内交…
-
New weighted t-SNE technique visualizes feature scorer results
研究人员推出了一种名为“加权t-SNE”的新型可视化技术,旨在更好地呈现高维数据集上特征评分器的结果。该方法修改嵌入的二维空间,以反映特征评分器评估的原始数据集维度的重要性。该方法使用轮廓系数进行评估,并通过合成和真实世界的表格数据进行演示,利用九种不同的特征评分器来展示其比较和可解释性优势。
-
新的Siamese Lasso框架增强了分类和表示学习的特征选择
研究人员引入了一个新颖的框架,将Group-Lasso集成到Siamese网络中进行特征选择,旨在识别能够保留数据表示并提高分类精度的简洁特征集。该方法通过同时关注表示学习和分类性能,偏离了现有方法。提出了该框架的两个变体,一个使用欧氏距离,另一个使用修改后的Jaccard相似度度量,后者专门针对高维稀疏数据。该Siamese Lasso框架的有效性已在12个基准数据集上使用八种不同的分类器进行了验证,证明了其在保持具有竞争力或更优的…
-
新研究探讨具有广义核函数的 t-SNE
本文使用广义核函数探讨了 t-分布随机邻域嵌入 (t-SNE) 的大样本变分问题。研究人员 Yi Gu 及其同事们建立了解的存在性和有界性条件,证明了最优值收敛于连续统的最小值。研究包括了比较使用不同核函数(如高斯核和柯西核)生成的二维表示的数值示例。
-
DE-VAE 通过不确定性分析增强数据投影
研究人员开发了 DE-VAE,这是一种新颖的变分自编码器,它结合了微分熵来增强多维数据的参数化和可逆投影。这种新方法旨在改进数据和嵌入空间中分布外样本的处理。在多个数据集上的评估表明,DE-VAE 在投影精度上可与现有的基于自编码器的方法相媲美,同时还提供了分析嵌入不确定性的手段。
-
新的谱分解框架增强了非线性降维能力
研究人员开发了一个名为 SDMP(用于多尺度投影的谱分解)的新框架,以解决非线性降维中的权衡问题。SDMP 使用拉普拉斯特征向量显式分解每个嵌入维度,从而能够控制和检查局部邻域保持与全局结构之间的平衡。该方法通过揭示高维结构如何影响嵌入模式以及哪些谱尺度塑造了整体投影,从而提供了更大的分析透明度。在合成、图像和单细胞数据上的评估表明,该方法在保持局部和全局结构方面具有竞争力,案例研究突显了其在解释复杂数据集方面的实用性。
-
NVIDIA cuML 和 RAPIDS 在 GPU 上加速机器学习工作流
本教程演示了如何使用 NVIDIA 的 cuML 和 RAPIDS 库通过 GPU 加速来实现机器学习工作流。它涵盖了设置 GPU 环境、使用 cuML 加速 scikit-learn 工作负载,以及利用原生 cuML API 与 CuPy 和 cuDF 直接互操作。该指南包括对 PCA、K-Means、逻辑回归和随机森林等各种算法的 CPU 和 GPU 性能进行基准测试,以及使用 UMAP、t-SNE 和 HDBSCAN 构建基于 …
-
光学基础模型提升SAR目标识别精度
研究人员开发了一种新颖的跨模态学习框架,通过利用光学视觉基础模型来改进合成孔径雷达(SAR)目标识别。该方法使用一个固定的光学编码器(特别是DINOv3)从光学图像创建类别级原型,而无需配对的SAR-光学数据。然后训练一个SAR模型,使其嵌入与这些光学原型对齐,从而提高SAR图像的分类精度,尤其是在标记数据有限和领域差距的情况下。
-
研究发现t-SNE算法的能量场具有无限个临界点
一篇新发表在arXiv上的论文探讨了t-SNE算法(一种流行的数据可视化方法)复杂的能量场。该研究在该能量场中识别出无限多个不同的临界点,这可能导致该算法捕捉到的聚类结构不能准确反映底层数据的拓扑结构。这些发现旨在为t-SNE可视化中观察到的拓扑破坏和虚假聚类等现象提供严格的解释。
-
新论文提出使用精确率-召回率指标来验证降维技术
一篇新论文介绍了一个精确率-召回率框架,用于评估降维(DR)技术,特别关注它们在数据可视化中保留簇结构的能力。所提出的指标评估DR的关系阶段,量化模型相似性与预期簇标签之间的一致性。该方法旨在加速超参数调优,识别投影伪影,并确认是否捕获了底层的簇结构,从而使DR过程更有效和可靠。
-
新研究探讨亲和力矩阵平滑对 t-SNE 邻域保持的影响
一篇新研究论文探讨了在流行的降维技术 t-SNE 中改变亲和力矩阵如何影响数据邻域的保持。该研究引入了一个参数 gamma,用于平滑或锐化矩阵内的概率分布,这等同于调整高斯带宽,进而调整困惑度。研究结果表明,锐化分布可以增强非常近邻的保持,而平滑则可以改善更广泛局部邻域的表示,在某些范围内优于其他多尺度方法。
-
AI模型学习巴赫音乐,揭示结构编码的局限性
研究人员探讨了受限玻尔兹曼机(RBM),一种基于能量的模型,如何编码音乐结构。通过在转换为钢琴卷帘格式的J.S.巴赫的符号音乐上训练RBM,该研究分析了模型隐藏单元所学的模式。研究结果表明,RBM捕获的是局部的时间和音高统计特征,而不是旋律或和弦等明确的音乐概念。分析还显示,RBM不能稳健地处理移调等价性,这归因于其标准架构的局限性。
-
向量数据库:LLM 集成与应用深度解析
向量数据库对于大型语言模型(LLMs)至关重要,尤其是在检索增强生成(RAG)方面。这些专用数据库能够高效地存储、索引和查询代表文本和图像等数据的高维向量,从而实现对自然语言处理和计算机视觉至关重要的快速相似性搜索。关键概念包括用于高效查询的索引技术、用于管理高维数据的降维方法(如 PCA 和 t-SNE),以及相似性搜索固有的精确率-召回率权衡。
-
TabSOM方法通过提高可解释性来增强表格数据的深度学习能力
研究人员开发了TabSOM,一种将表格数据编码为图像表示的新方法,以增强深度学习模型的应用。与仅考虑单个特征值的先前方法不同,TabSOM利用自组织映射(SOMs)来捕捉特征值及其相互关系。该方法在各种二元分类数据集上,与十二种现有的表格到图像技术相比,表现出了优越的性能和可解释性。