embedding
PulseAugur coverage of embedding — every cluster mentioning embedding across labs, papers, and developer communities, ranked by signal.
- used by Vector Search 80%
- used by large-language models 70%
- used by Vector Databases 60%
- instance of Tokens 60%
- instance of generative artificial intelligence 60%
- used by artificial neural network 60%
- used by fine-tuning 60%
- instance of large-language models 50%
- other fine-tuning 50%
- affiliated with Vector Databases 50%
- used by Tokens 50%
13 天有情绪数据
-
AI使用嵌入将意义映射到空间以实现语义搜索和记忆
AI模型通过嵌入将意义转化为空间位置来确定相似性。这个过程通过识别概念空间中最近的点,实现了语义搜索、推荐和AI记忆的功能。
-
新研究探索高斯混合块模型中的谱聚类
研究人员已开始研究从高维高斯混合块模型中采样的图的聚类和嵌入。该方法旨在通过将每个顶点与潜在特征向量相关联来对现代网络进行建模,其中边根据特征相似性添加。该研究侧重于特征向量维度随网络大小增加的高维设置,分析了 2 分量球形高斯混合的谱聚类和嵌入算法的性能。
-
评估 RAG 系统:指标和分层工具
本文讨论了评估检索增强生成 (RAG) 系统的实用方法,超越了主观评估。它强调了通过使用 Precision@k、Recall@k、MRR 和 nDCG 等特定指标来区分检索失败和生成失败的重要性。作者提出了一个分层评估工具,其中包括确定性检查和 LLM 作为裁判的方法,以确保对 RAG 性能进行稳健且可重现的评估。
-
Lean AI Memory 使用 Markdown 和 Git 实现更简单的AI上下文保留
一位开发者提出了一个名为 Lean AI Memory 的新颖AI记忆管理方法,该方法利用人类可读的 Markdown 文件和 Git 进行版本控制。这种方法旨在简化AI代理在会话之间保留项目上下文的方式,避免了传统向量数据库和嵌入的复杂性。该系统允许开发者轻松读取、编辑和跟踪AI记忆,并具有自定义规则来决定AI应优先记住哪些信息。
-
揭秘5个关键AI术语:Embeddings、Agents、RAG、Fine-Tuning和Context Engineering
本文旨在揭秘人工智能领域的五个关键术语:Embeddings、AI Agents、检索增强生成(RAG)、微调(Fine-Tuning)和上下文工程(Context Engineering)。通过理解这些概念,读者可以更深入地了解现代AI系统的内部工作原理。
-
理解 Transformer:从分词到自注意力机制
本文剖析了 Transformer 模型背后的核心概念,重点介绍了它们如何处理语言。文章解释了分词(tokenization),即将文本分割成更小的片段,以及分词 ID(token IDs),即这些片段的数值表示。该过程继续介绍嵌入(embeddings),将分词转换为捕获它们之间关系的向量,以及位置编码(positional encoding),它为序列中分词的位置添加信息。最后,文章深入探讨了自注意力机制(self-attenti…
-
AI应用安全:超越提示注入,关注API密钥卫生
构建安全的AI应用程序需要同时关注模型层和访问层的安全。虽然提示注入和数据泄露是常见的担忧,但更频繁的漏洞涉及在客户端代码中直接暴露API密钥。开发人员在原型设计阶段通常会优先考虑速度,导致在前端应用程序或公共代码存储库中硬编码密钥。一个强大的API安全网关应通过在服务器端代理请求来解决凭证保护问题,而不是仅仅关注提示操纵等模型特定的威胁。
-
向量数据库:现代人工智能应用的引擎
本文深入解释了向量数据库,强调了它们在驱动许多人工智能应用中的关键作用。它探讨了诸如嵌入(embeddings)、最近邻搜索(nearest neighbor search)等概念,以及它们作为大型语言模型的事实数据库的功能。文章强调了这些数据库对于机器学习领域有效信息检索的基础性作用。
-
构建AI数据库助手:从自然语言到安全SQL
本文详细介绍了构建一个AI驱动的数据库助手お过程,该助手能够通过生成SQL查询来回答自然语言问题。文章强调,核心挑战不在于AI编写SQL的能力,而在于围绕这些步骤。这包括理解数据库模式、使用带有嵌入和向量数据库的语义搜索来识别相关表、为LLM构建带有示例的详细提示,以及实施强大的安全检查来验证和保护生成的SQL,然后再执行。
-
RAG 系统通过混合搜索和重排在向量搜索之外得到增强
本文深入探讨了超越简单向量搜索来增强检索增强生成(RAG)系统。文章解释说,虽然嵌入对于语义相似性至关重要,但它们本身是不够的。文章提倡一种混合方法,将语义搜索与 BM25 等词汇搜索方法相结合,并纳入重排以优化结果。诸如查询优化、元数据过滤和上下文压缩等技术被强调为构建健壮的 RAG 管道的关键,这些管道可以通过提高准确性和效率来可靠地处理实际查询。
-
AI/ML面试准备:关注LeetCode之外的场景题
来自Towards AI及其他来源的几篇文章为准备面试的AI和ML专业人士提供了指导。内容侧重于与嵌入(embeddings)和MLOps相关的实际场景题,旨在帮助候选人掌握超越死记硬背算法或编码挑战的策略。这些资源强调理解AI/ML职位中的实际应用和问题解决能力。
-
新框架利用LLM和嵌入来扩展科学分类法 · 已追踪2个来源
两篇新的研究论文介绍的框架利用大型语言模型(LLM)和嵌入来增强科学分类法。第一个框架ReLTEx,通过结合LLM生成和结构感知验证,专注于可靠的基于LLM的分类法扩展,以减少幻觉并提高一致性。第二个框架SCALE,通过使用嵌入和LLM创建新的科学概念层来扩展OpenAlex分类法,将语义相关的术语组织成连贯的单元,从而实现更细粒度的学术分类和分析。
-
AWS 为 Amazon DynamoDB 推出向量搜索功能
AWS 已正式为 Amazon DynamoDB 提供向量搜索功能,允许用户将嵌入与其业务数据存储在同一位置。此功能支持低延迟、高召回率的相似性搜索,旨在扩展至数万亿向量。通过将数据和嵌入保留在同一表中,该集成旨在简化检索增强生成 (RAG) 应用。
-
2026年20个生成式AI概念详解
本文用通俗易懂的语言介绍了2026年相关的20个关键生成式AI概念。内容涵盖了大型语言模型、Transformer和提示工程等基础概念,以及多模态AI、检索增强生成(RAG)和AI代理等更高级的主题。指南还涉及了伦理考量以及微调和LoRA等实用技术。
-
3D CT基础模型在新基准测试中表现各异
一项评估十个冷冻3D CT基础模型的新基准研究显示,没有一个模型能在所有诊断环境中持续优于其他模型。性能高度依赖于评估方法和异常的性质,较大的、高对比度的发现更容易被检测到。研究表明,虽然视觉-语言对齐可以提高性能,但一个简单的监督编码器也具有竞争力,未来的进步可能需要区域或病灶级别的预训练,以更好地表示小的、低对比度的异常。
-
使用文档摄取和向量搜索在 .NET 中构建 RAG 工作流
一个实用系列演示了如何使用 .NET 构建生产就绪的检索增强生成 (RAG) 工作流。该系列涵盖了 RAG 的关键方面,包括文档摄取、嵌入生成、向量搜索实现、提示接地技术和引用生成。
-
为开发者揭秘 10 个关键 AI 术语
本文旨在为希望更好地理解 AI 开发的个人揭秘十个重要的 AI 术语。它涵盖了 ChatGPT、Claude、检索增强生成 (RAG)、AI 代理、嵌入 (embeddings)、令牌 (tokens) 和上下文窗口 (context windows) 等概念。作者分享了一个关于聊天机器人错误的个人轶事,以强调清晰解释这些基本术语的重要性,并强调即使是经验丰富的开发者也可能忽略基本概念。
-
提出嵌入系统的双引擎架构
本文讨论了嵌入系统的架构设计,提出了一种双引擎方法。它建议使用一个精简引擎来处理稳定的嵌入负载,并使用一个更快的引擎来处理突发负载。强调的核心挑战是确保这两个引擎之间的向量输出一致性。
-
AI 集成需要治理,使用情况日益整合
MCP 生态系统正围绕主要平台的官方集成看到越来越多的整合,这凸显了对强大治理的需求。开发人员越来越多地使用少数几个高信任度的集成,例如 GitHub Copilot MCP、OpenAI MCP(访问 GPT-4o、DALL-E、Whisper 和 Embeddings)、Figma MCP、GitHub MCP 和 Anthropic Claude MCP。主要的治理挑战在于管理各种工具的允许列表碎片化,并确保实际使用情况与正式决…
-
AI数据质量:清理网站噪音可提升RAG和代理性能
构建RAG系统和聊天机器人等AI应用的开发者经常面临因数据质量差导致的不准确或幻觉响应问题。主要原因是向AI模型输入原始网站数据,其中除了实际内容外,还包含导航菜单、Cookie横幅和广告等无关元素。为了提高AI性能,清理和结构化这些数据至关重要,在保留标题、代码块和上下文等关键元素的同时去除样板内容。更有效的方法是构建专注于生成AI就绪Markdown的专用爬虫,这可以显著提高检索质量并减少令牌使用量和幻觉。