Correctover
PulseAugur coverage of Correctover — every cluster mentioning Correctover across labs, papers, and developer communities, ranked by signal.
- 2026-06-26 product_launch Correctover has launched a new MCP server to provide real-time AI output validation and automatic failover for AI tool calls. 来源
- 2026-06-25 product_launch Correctover released version 1.1.0, introducing new features and streamlining dependencies. 来源
- 2026-06-25 product_launch Correctover has launched a new verified failover SDK for LLM APIs, offering an embedded solution that validates responses before acceptance. 来源
4 天有情绪数据
-
Correctover 以 14.5 微秒为 AI 工作负载安全设定基准
Correctover 开发了一种方法，用于对 AI 工作负载中的远程代码执行 (RCE) 和服务器端请求伪造 (SSRF) 漏洞进行实时检测基准测试。他们的系统利用 24 条规则并分析 80,000 条跟踪记录来识别发现，从而实现 14.5 微秒的检测速度。这种方法侧重于为 AI 应用程序提供运行时安全性。
-
AI 代理协议 MCP 面临严重安全漏洞，提议引入新护栏
一份新报告揭示了模型上下文协议（MCP）生态系统存在严重的安全漏洞，该生态系统正迅速扩张，拥有超过 10,000 个插件。研究人员发现，CrewAI 和 AutoGen Studio 等流行的 MCP 服务器存在严重缺陷，由于缺乏预执行授权和输入验证，导致了远程代码执行和任意文件写入。为解决这些风险，已开发了一个名为 GuardrailProvider 的新授权层，它会拦截工具调用，在执行前强制执行策略并创建防篡改的审计日志。
-
AI模型服务器存在系统性安全缺陷，发现关键漏洞
对50多个开源模型上下文协议（MCP）服务器进行的安全性审计揭示了系统性漏洞，其中超过60%存在不安全模式。研究人员发现了关键缺陷，包括远程代码执行并窃取云凭证，以及允许完全访问Azure订阅的链式漏洞，两者均评为CVSS 9.8级。审计强调了静态分析在检测提示注入和运行时特定漏洞方面的不足，促使开发了一个名为Correctover的运行时验证层来解决这些问题。
-
大型语言模型应用安全：新风险与缓解策略
利用大型语言模型（LLM）的应用程序的安全性日益受到关注，因为它们引入了传统网络漏洞之外的新攻击向量。LLM 将所有输入（包括用户提示和检索到的数据）都作为 token 进行处理，使其容易受到提示注入以及指令和用户内容之间的混淆。开发人员必须将所有模型输出视为不可信，并对其进行严格验证，强制执行严格的允许列表操作，并最大限度地减少发送给模型提供商的敏感数据。此外，代理应用程序需要仔细的访问控制和监控，以防止滥用和管理成本。
-
审计发现 62.5% 的 LLM 提供商未能达到生产合规标准
Correctover Research Group 的一项新审计显示，八家主要 LLM 提供商存在严重的可靠性问题，发现其中 62.5% 在生产代理系统中无法正常运行。其余模型则表现出静默输出损坏，包括算术错误、幻觉引用和结构缺陷。Correctover 开发了加密合规标准 (CCS) 来解决这些问题，重点关注模式验证、加密来源、幻觉检测、漂移监控和成本审计，以确保 LLM 输出的完整性。
-
LLM护栏因“诚实剧场”指控面临审查
一个名为“诚实剧场”的新概念被引入，用来描述那些披露安全能力但实际上并未将其用于影响决策的LLM护栏。这一差距是通过对CrewAI的技术讨论发现的，强调护栏的输出必须整合到决策过程中并且是可复现的，才能被认为是可靠的。该概念强调，声称一项能力而没有实际的决策路径仅仅是营销，而非真正的合规。
-
Correctover 为 Patronus AI 增加确定性验证
Correctover 发布了一个名为 correctover-patronus 的新适配器，该适配器将其 87 条确定性验证规则集成到 Patronus AI 框架中。此集成旨在解决 LLM 输出中的结构性故障，例如缺失的 JSON 字段、不正确的函数参数、模式违规以及过度的延迟或令牌使用，而这些问题是像 Patronus AI 这样的传统 LLM 评估器可能会忽略的。适配器执行的每次验证都包含一个可重新计算的证明哈希，确保了透明度…
-
LLM 网关缺乏输出验证，提出新的“已验证故障转移”
当前的 LLM 网关，如 LiteLLM、Portkey 和 TensorZero，在将请求路由到各种 AI 提供商、管理重试和跟踪成本方面表现出色。然而，它们缺乏验证 LLM 输出的语义正确性或事实准确性的关键能力。这种疏忽可能导致用户收到不正确或虚假信息而系统未报错的“静默故障”，这比系统错误更危险。一种名为“已验证故障转移”的新方法旨在通过在 LLM 响应到达用户之前，从模式合规性、语义等价性和事实一致性等多个维度进行验证，并在…
-
Correctover 推出 MCP 服务器，用于 AI 工具输出验证和故障转移
Correctover 发布了新的 MCP 服务器，旨在提高 Cursor 和 Claude Desktop 等 IDE 中 AI 工具调用的可靠性。该服务器充当可靠性层，跨六个维度验证 AI 输出，并自动使用不同的提供商重试失败的调用。该系统通过实施三层自愈机制，旨在防止 LLM 提供商出现静默故障和垃圾输出，确保 AI 工具始终如一地运行。
-
Correctover v1.1.0 增加了熔断器、基准测试和简化的依赖项
Correctover 发布了 1.1.0 版本，引入了用于管理 LLM API 调用的熔断器模块和用于性能测试的 BenchmarkRunner。此次更新简化了依赖项，从六个减少到两个，并将公共 API 扩展到 100 个导出。SDK 直接在用户基础设施内运行，从不中介 API 密钥。
-
静默 LLM 模型切换破坏 AI 应用；新框架检测模型漂移
LLM 提供商经常在不通知用户的情况下更换服务 API 请求的模型，这种现象被称为静默模型切换。这可能导致应用程序性能和质量下降，即使传统的监控工具报告成功。Correctover 推出的一个名为 CANON 的新框架通过采用一个 6 维检测模型来解决这个问题，该模型验证模型身份、响应结构、延迟、成本、语义质量和完整性相关性。该系统旨在确保应用程序始终收到来自预期 LLM 的响应，防止静默降级和预算超支。
-
Correctover 发布 LLM API 的经过验证的故障转移 SDK
Correctover 发布了一款新的嵌入式 SDK，为 LLM API 提供“经过验证的故障转移”，这使其区别于传统的 AI 网关。与仅根据 HTTP 200 状态码切换到备用提供商的网关不同，Correctover 在接受之前会根据可配置的六维契约验证响应。这种方法旨在防止生产 AI 应用程序中常见的静默故障，例如数据截断、模式不匹配、成本飙升或格式不一致。该 SDK 直接在用户进程内运行，避免了基于代理的网关相关的延迟、成本加价和数据暴露。
-
LLM成本降低策略：Token、API和监控
多篇文章讨论了降低与大型语言模型（LLM）相关的成本的策略，主要侧重于token消耗。技术包括将信息组织成开放知识基金会（OKF）技能等格式，对特定任务使用带有封顶输出的固定价格API，以及优化提示结构。其他方法包括将网页内容转换为Markdown以去除HTML噪音，使用LLM API定价计算器，以及实施具有结构化日志记录和警报的强大监控系统以提高成本可见性。文章还强调了理解token化、输入和输出token成本之间的差异以及API网…
-
MCP 服务器扩展了 AI 工具，但令牌成本和范围管理是关键
模型上下文协议（MCP）是一个开放标准，使 Claude Code 等 AI 模型能够与外部工具和数据进行交互。开发人员正在构建各种 MCP 服务器来扩展 AI 功能，范围涵盖文件系统访问、GitHub 集成、数据库查询和浏览器控制。虽然 MCP 通过标准化 AI 集成提供了显著优势，但人们对注册大量工具所产生的令牌成本，尤其是在长期运行的代理循环中，越来越感到担忧。最佳实践包括将 MCP 配置限定在特定项目，优先选择工具较少的服务器…