RAG systems
PulseAugur coverage of RAG systems — every cluster mentioning RAG systems across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
ZHANG AI 旨在通过推理证据来使科学知识累积
ZHANG 是一个新的人工智能系统，旨在超越简单的科学文献摘要，朝着实现累积性科学进展迈进。与检索或总结论文的传统系统不同，ZHANG 旨在通过明确建模证据、论点和矛盾之间的关系来推断可操作的见解。该系统的核心论点是，当证据之间的联系变得明确时，科学知识就会变得更加强大，将分歧视为潜在的新知识和研究方向的来源，而不是噪音。ZHANG 的目标是将碎片化的科学知识转化为可检查、可证伪和可操作的格式，强调可重复性和跨领域转移作为知识结构的组成部分。
-
Perplexity 发布 Q2D-Web 基准，用于评估代理式 RAG 系统中的检索性能
Perplexity 推出了 Q2D-Web，这是一个新的基准和排行榜，旨在评估代理式 RAG 系统中的检索性能。该基准使用了包含 1.9 亿个网页文档和超过 69,000 个代理重构查询的大型语料库，涵盖十种语言。初步评估显示，Perplexity 自家的 pplx-embed-v1-4b 模型在网页排名和综合召回率方面处于领先地位，而 Nemotron-3-Embed-8B 在引用检索方面表现出色。
-
LLM Agent 面临从提示注入到多 Agent 威胁的扩展安全风险
本文分析了与 LLM Agent 相关的安全风险，强调其增强的能力导致比传统 LLM 更大的攻击面。关键漏洞包括提示注入、RAG 系统中的数据投毒以及多 Agent 协作固有的风险。分析还涉及 Agent 系统中出现的作弊和告密等新兴行为，并提出了诸如指令隔离、输入净化、权限分层和治理框架等防御策略。
-
Intellibooks 概述企业 AI 的数据治理角色
Intellibooks 详细介绍了数据所有者、数据保管者和数据管理员在为企业 AI 计划建立强大数据治理方面的重要角色。该公司强调，明确的数据责任制对于生成式 AI、代理式 AI 和机器学习应用的成功至关重要。Intellibooks 的平台旨在通过自动化管理活动和整合数据保护与合规的技术控制来支持这些角色。
-
RAG 系统引入了超越提示注入的新攻击面
检索增强生成 (RAG) 系统引入了超越传统提示注入的重大安全漏洞。攻击者可以利用文档摄取管道、向量存储和检索组装过程来操纵 LLM 输出。将所有检索到的数据视为不受信任的输入并实施严格的访问控制，例如多租户系统的硬分区，对于减轻这些风险至关重要。此外，由于可能从嵌入中重建数据，向量数据库需要与主数据库相同的安全措施，包括身份验证、加密和日志记录。
-
新的RAG方法通过位置码解决冗余块问题
研究人员开发了一种名为自条件位置HNSW（SCP-HNSW）的新方法，通过解决重叠文档块产生的冗余信息问题来改进RAG系统的检索。该技术将位置码附加到嵌入中，并使用双通道查询来选择相关块，从而优化提示使用。该论文还包括对工业审查证据质量的审计，分析文本证据和OCR性能，以指导未来的RAG开发。
-
新框架提升LLM在监管合规问答中的准确性
研究人员推出RefWalk，一个旨在提高大型语言模型（LLM）在监管合规问答中准确性和可追溯性的新框架。该框架通过基于国家研发法规的基准RegOps-Bench，对任务进行了形式化，从而解决了现有检索增强生成（RAG）系统的局限性。RefWalk增强了跨文档引用遍历、候选融合和每条规则归因，在检索召回率和引用准确性方面取得了显著改进，尤其是在处理复杂、多层次的监管结构时。
-
软件行业到2026年要求具备Agentic AI技能
软件行业正转向Agentic AI，对具备AI Agent、RAG系统、提示工程和AI编排技能的开发人员的需求日益增长。到2026年，未来的开发人员可能会更专注于构建智能AI生态系统，而不仅仅是传统应用程序。这一演变表明软件工程师所需的技能集将发生重大变化。
-
LLM 处理 Markdown 优于原始 HTML，减少令牌浪费
一篇近期文章强调，直接将原始 HTML 输入大型语言模型 (LLM) 会导致上下文窗口嘈杂和令牌使用效率低下。作者认为，LLM 对清晰的 Markdown 的理解远优于 HTML，因为 HTML 通常包含导航菜单、广告和样式包装器等无关元素。在摄取之前将 HTML 转换为 Markdown 可以大大减少令牌数量，改善语义分块，并提高 RAG 系统和 AI 代理的整体准确性和一致性。
-
VectorSmuggle 攻击隐藏数据于 AI 嵌入中；VectorPin 提供防御
研究人员发现了一种名为 VectorSmuggle 的新型隐写攻击向量，它允许攻击者将数据隐藏在用于 RAG 系统的向量数据库中存储的嵌入中。该方法利用了许多向量存储缺乏原生完整性控制的漏洞，使攻击者能够在保持检索功能的同时，通过简单的扰动嵌入敏感信息。为应对此问题，研究人员提出了 VectorPin，一种加密溯源协议，它使用数字签名来验证嵌入的完整性和来源，从而堵塞了此攻击向量。
-
AI智能体利用基础模型执行多样化任务，重点关注工具和规划
Chip Huyen 的最新博文改编自她的著作《AI Engineering》，探讨了智能体的概念，将其定义为能够感知并作用于环境的实体。这些智能体利用基础模型的先进能力，并通过工具进行增强以执行复杂任务。博文还深入探讨了智能体规划、工具选择以及评估其性能和潜在故障模式的方法。