SentenceTransformer
PulseAugur coverage of SentenceTransformer — every cluster mentioning SentenceTransformer across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
为 LLM 应用构建语义缓存以降低成本
一篇技术指南演示了如何使用 Python 为 LLM 应用构建语义缓存，旨在降低 API 调用成本。该方法涉及使用 SentenceTransformer 的 all-MiniLM-L6-v2 模型将用户查询转换为向量嵌入。然后，将这些嵌入与缓存存储进行比较，以查找语义上相似的过去查询，从而避免对重复或相似的请求进行昂贵的 LLM 调用。文章强调了潜在的故障模式，例如混淆反义词，并建议实施护栏以确保准确性。
-
使用Transformers构建生产级嵌入服务的指南
本文详细介绍了创建生产级嵌入服务的流程，重点关注从SentenceTransformer模型过渡到更先进的原生Transformers。它指导读者完成在实际应用中部署这些模型所涉及的技术步骤。
-
修复本地 LLM 知识库需要更好的检索，而非新模型
设置本地 LLM 知识库通常会产生糟糕的结果，这是由于检索管道中的问题，而非模型本身。常见问题包括不充分的分块，导致句子被分割或不相关的内容被分组；使用未能捕捉特定领域语义细微差别的嵌入模型；以及检索到的块太少，无法重建必要的上下文。解决方案包括使用具有重叠和语义边界的递归分割器以获得更好的分块；测试各种嵌入模型，如 BAAI/bge-base-en-v1.5 或 intfloat/e5-base-v2，以找到适合数据的模型；以及增加…
-
RAG 系统解析：使用外部知识增强 LLM
检索增强生成（RAG）是一种通过允许大型语言模型（LLM）在生成响应之前访问和利用外部知识库来增强 LLM 的技术。这种方法通过检索相关信息并用其增强用户查询来解决 LLM 的局限性，例如知识截止日期和上下文窗口限制。RAG 与微调（修改模型行为）不同，它侧重于扩展模型的知识库，而不是改变其核心功能。
-
研究人员开发使用神经方法为命令式程序构建图
研究人员开发了一个管道，将命令式程序及其注解转换为类型化、属性化的图。该过程结合了抽象语法树解析与来自 SentenceTransformer 和 CodeBERT 等模型的语义嵌入。目标是识别程序之间的结构和语义相似性，以便重用验证工件。使用 C、Java 和 Dafny 进行的实验证明了跨不同语言和注解风格创建一致图表示的能力。