sentence_transformers
PulseAugur coverage of sentence_transformers — every cluster mentioning sentence_transformers across labs, papers, and developer communities, ranked by signal.
- 2026-08-18 product_launch Hugging Face released the MultiVectorEncoder feature for its sentence-transformers library. 来源
11 天有情绪数据
-
RAG 详解:如何为大型语言模型提供您自己的信息
检索增强生成(RAG)是一种允许大型语言模型(LLM)访问和利用特定、私有信息(如公司手册或政策)而无需重新训练的技术。该过程包括将文档索引为向量嵌入,根据用户查询检索相关文本片段,然后将这些片段作为上下文提供给 LLM。通过将 LLM 的响应基于用户控制的事实数据,此方法可显著减少幻觉,并实现诸如来源引用等功能以增强信任度。RAG 被视为一种在企业中应用 AI 的经济高效的方式,改进之处在于更新文档而非重新训练模型。
-
Hugging Face 通过多向量检索增强 sentence-transformers 功能
Hugging Face 已在其 sentence-transformers 库中引入 MultiVectorEncoder,为开发者启用后期交互检索。此新功能允许结合密集和稀疏检索方法,增强现有模型的能力。
-
新方法通过动力学系统和低延迟护栏增强 LLM 安全性 · 跟踪 4 个来源
研究人员开发了两种新方法来增强大型语言模型 (LLM) 的安全性。第一种方法,在 arXiv 论文中详细介绍,利用基于 Koopman 算子的动力学系统框架来分类提示-响应嵌入动力学,通过分析交互模式来提高安全性检测,尤其是在包含提示嵌入时,如 Llama 3 所示。第二种方法 Reflex-Guard,引入了一种轻量级、低延迟的本地护栏,该护栏采用密集语义嵌入和快速分类器来过滤不安全的提示,与 Llama Guard 2 和 Saf…
-
Hugging Face 推出 MultiVectorEncoder 以实现高级检索
Hugging Face 推出了 MultiVectorEncoder,这是其 sentence-transformers 库中的一个新工具,支持使用多向量嵌入模型。这些模型受 ColBERT 架构的启发,通过保留单个 token 的嵌入而不是将其压缩成一个向量来处理文本。这种方法通过在评分阶段推迟查询和文档嵌入之间的交互,并使用 MaxSim 运算符进行比较,从而实现更细致的检索。MultiVectorEncoder 支持各种检查点…
-
Hugging Face 详细介绍多模态模型、Transformer 集成和电子商务代理
Hugging Face 发布了多篇博文,详细介绍了 AI 和机器学习方面的进展。其中一篇博文涵盖了使用 sentence transformers 训练和微调多模态嵌入和重排模型。另一篇讨论了 Transformer 与 MLx 的集成,第三篇则介绍了 Ecom-RLVE,这是一个用于电子商务对话代理的自适应且可验证的环境。
-
SQLite 驱动新型零云语义搜索引擎
一种构建语义搜索引擎的新方法,通过使用带有 sqlite-vec 扩展的 SQLite,绕过了基于云的向量数据库和嵌入式 API。这种方法允许开发人员将文本、元数据和向量索引存储在单个 SQLite 文件中,从而减少了依赖性和运营成本。使用了 all-MiniLM-L6-v2 等本地嵌入模型,使得整个系统可以在最少的硬件上运行,而无需支付经常性的云服务费用。
-
使用 Claude、pgvector 和 FastAPI 在周末构建 RAG 聊天机器人
一篇指南详细介绍了如何使用 PostgreSQL(带 pgvector 扩展)、FastAPI 和 Anthropic 的 Claude 模型,在周末构建一个检索增强生成(RAG)聊天机器人。该过程涉及使用单独的嵌入模型嵌入用户问题和文档,将这些嵌入存储在 PostgreSQL 中,然后使用 Claude 根据检索到的上下文生成答案。指南强调,Claude 不提供自己的嵌入 API,因此需要使用 Voyage AI 或 OpenAI …
-
本地分类器取代昂贵的 LLM 作为评判者,用于 AI 评估
一种替代使用大型语言模型(LLM)进行评估的方法已被开发出来,解决了基于 API 的评判所带来的高成本和延迟问题。这种新方法采用本地二元分类器,使用句子转换器和逻辑回归进行训练,以区分好与坏的响应。该系统在编码问答数据集上实现了约 75% 的准确率,并且成本显著降低、速度更快,使其适用于持续集成管道和 API 访问受限的环境。
-
OpenAI收购Promptfoo引发对LLM评估独立性的辩论
OpenAI对Promptfoo的收购促使人们重新评估LLM评估工具,突显了对供应商依赖和成本的担忧。作者提出了一种替代方法,使用自定义训练的分类器,结合Sentence Transformers和逻辑回归,该方法提供离线执行、供应商独立性以及比基于LLM的评分方法更快的评估速度。这种方法需要标记的训练数据,但为CI/CD管道提供了一种经济高效且可控的解决方案。
-
Hugging Face 发布数据策略、模型和内核更新 · 跟踪 6 个来源
Hugging Face 在其平台上发布了多项更新和新模型。其中包括 Photoroom 在数据策略方面的进展,专注于迭代改进的 LeRobot v0.6.0 的发布,以及具有句子转换能力的新多模态重排序模型。此外,Waypoint 1.5 为日常 GPU 提供了增强的交互式世界,DeepSeek V4 为代理提供了 100 万个 token 的上下文窗口。该平台还宣布了其 Kernels 的重大更新。
-
Kmemo 2.0 语义缓存弥补性能差距,可与 GPTCache 媲美
Kmemo 2.0,一个用于 LLM 调用的语义缓存,已发布,解决了之前确定的两个不足之处。第一个不足之处是关于其验证器模型的有效性,现已量化:它阻止了初始守卫遗漏的大量近乎匹配和释义。第二个不足之处是与自建基线的比较,现已更新为包含与 GPTCache 的比较。虽然 Kmemo 的词汇链最初表现强劲,但 GPTCache 的 ONNX 交叉编码器在减少误报方面被证明更有效,尽管代价是拒绝了更多真实的改写。
-
开发者构建本地LLM评估工具,准确率达75%
一位开发者创建了一个名为LLM Judge的开源工具,用于评估大型语言模型(LLM)的输出,特别是在编码任务方面。该工具通过模型输出与参考答案之间的语义相似性来绕过传统方法,如执行代码或使用另一个LLM(如GPT-4)。LLM Judge在Hugging Face数据集上进行训练,在未见过的数据集上的编码问题上达到了约75%的准确率,并与人类裁判的判断有约58%的一致性,同时完全在本地运行且无API调用成本。
-
新的VIBE基准用于嵌入、微调策略和开放模型质量 · 跟踪4个来源
引入了一个名为VIBE的新基准来评估近似最近邻(ANN)搜索算法,通过使用代表检索增强生成(RAG)等现代应用的代表性数据集来解决现有基准的局限性。VIBE框架包括一个用于生成具有密集嵌入模型和非分布外数据集的基准数据集的管道,以模拟真实世界的负载。此外,研究表明,微调嵌入模型对于领域特定相关性具有成本效益,并且有效的分块策略对于检索质量至关重要,其重要性往往超过嵌入模型本身。与专有模型相比,开放嵌入模型在检索质量方面具有竞争力,尤其…
-
Hugging Face 详细介绍多模态模型、transformers 集成和电子商务代理 · 跟踪 3 个来源
Hugging Face 发布了多篇博客文章,详细介绍了 AI 模型训练和开发的进展。其中一篇介绍了使用 sentence transformers 训练和微调多模态嵌入和重排模型。另一篇讨论了 transformers 库与 MLX 的集成,使用户能够贡献自己的拉取请求。此外,还有一篇文章介绍了 Ecom-RLVE,一个专为电子商务对话代理设计的自适应可验证环境。
-
新希腊图书检索基准CUP发布
研究人员推出了CUP,一个用于评估希腊图书检索系统的新基准数据集。该数据集包含868条目录记录和104个专家标注的查询及其相关性判断。实验表明,多语言嵌入的性能优于希腊语特定模型,混合检索方法取得了最佳的总体性能。分析表明,BM25对于命名实体查询是有效的,而密集和混合方法则提高了自然语言、含噪、跨语言和基于概念的查询的性能。
-
TF-IDF 与 Sentence Transformers 在语义相似度方面的比较
本文比较了 TF-IDF 和 Sentence Transformers 在确定语义相似度方面的有效性。文章探讨了这两种截然不同的方法如何处理理解文本含义的任务,并强调了它们在各种应用中的各自优势和劣势。
-
NVIDIA发布新的嵌入模型,用户演示在消费级硬件上运行大模型
NVIDIA发布了两个新的文本嵌入模型Nemotron-3-Embed-8B-BF16和Nemotron-3-Embed-1B-BF16,它们针对检索和语义相似性任务进行了优化。这些模型专为多语言应用和检索增强生成(RAG)系统设计,在相关基准测试中取得了最先进的性能。此外,一位用户已成功在消费级硬件上部署了Nemotron-Labs-3-Puzzle-75B-A9B模型,展示了其在大上下文窗口和高效推理方面的能力。
-
Hugging Face 聚焦 AI 研究:地球观测、LoRa 替代方案等 · 跟踪 10 个来源
Hugging Face 正在聚焦 AI 领域的最新进展和研究。这包括 OlmoEarth v1.1 地球观测模型的更新,LoRa 以外的微调技术进展,以及在 OpenEnv 中评估真实世界环境中工具使用代理的新方法。该平台还展示了关于多模态嵌入的研究、LeRobot v0.5.0 在机器人领域的进展,以及训练具有 Ulysses Sequence Parallelism 等大上下文窗口模型的技术。此外,safetensors 已加入…
-
Hippo 工具包支持 LLM 的本地混合搜索,绕过云 API
一个名为 Hippo 的新开源工具包已被开发出来,用于支持大型语言模型 (LLM) 应用的本地、注重隐私的混合搜索。与依赖 Pinecone 或 ChromaDB 等基于云的嵌入式 API 和向量数据库的传统方法不同,Hippo 允许用户直接在自己的机器上执行搜索。它提供简单的安装,并支持 BM25 进行关键词匹配,以及结合 BM25 和本地密集嵌入进行语义理解的混合方法,使用 Reciprocal Rank Fusion 来合并结果。
-
研究发现,仅靠文本嵌入不足以进行数据库相似性连接
本文是关于相似性连接系列文章的第二篇,探讨了在数据库中使用单一文本嵌入表示实体的局限性。文章认为,实体可以从多个方面相似,而依赖单一嵌入向量会忽略细微差别。作者提出为每个实体使用多种表示方法,并将其与政治代表和电影推荐进行类比,以实现更全面的理解并支持更强大的相似性搜索。