gRPC
PulseAugur coverage of gRPC — every cluster mentioning gRPC across labs, papers, and developer communities, ranked by signal.
10 天有情绪数据
-
MCP 与 UTCP:用于 API 集成的 AI 代理协议对比
两种不同的协议,模型上下文协议 (MCP) 和通用工具调用协议 (UTCP),正在被开发以使 AI 代理能够与外部工具和 API 进行交互。MCP 作为一种具有定义好的角色和数据传输层的协议,充当 AI 代理和后端端点之间的中间人。相比之下,UTCP 被描述为一个直接指导代理如何调用 API 的手册,消除了对中间服务器的需求,并简化了部署和身份验证。
-
GitLab 修复影响 AI 代理突变的 JSON-RPC 2.0 漏洞
JSON-RPC 2.0 的一项最新进展解决了 AI 代理可能在不知情的情况下触发状态更改操作的漏洞。此问题(跟踪号为 Issue #638380)涉及服务器错误地将没有 ID 的请求归类为通知,导致在未收到确认的情况下接受了更改。在 MR !268112 中实施的修复程序在调度之前强制严格验证 JSON-RPC 2.0 请求 ID,以防止未确认的副作用并节省速率限制资源。
-
Graphwiz AI 通过重写负载均衡器将 AI 推理延迟降低 40%
Graphwiz AI 已优化其 Kubernetes 集群,以每秒处理超过 10,000 次并发 AI 推理。他们发现自定义 gRPC 负载均衡器存在重大瓶颈,并已重写了路由逻辑。此优化已将 p99 延迟降低了 40%。
-
AI原生优先架构扩展API优先以实现代理集成
传统的API优先软件架构依赖于REST和gRPC等预定义契约,正在演变为适应AI代理。一种新的方法,称为AI原生优先或双接口架构,旨在使业务能力既能被传统应用程序访问,也能被AI代理访问。这涉及到为AI代理创建一个额外的、标准化的接口,通常通过模型上下文协议(MCP)等协议来实现,该协议允许代理发现、理解和调用能力。这种演变确保了随着AI用例的增长,不必不断进行新的集成,并且文档可以直接从代码库生成,以保持与API更改同步。
-
规范驱动开发:重要的API规范格式
本文详细介绍了在规范驱动开发中,尤其是在应用程序编程接口(API)方面,规范的重要性与结构。作者提倡一种全面的规范格式,解释了每个部分的用途,并分享了因忽视这一实践而导致的个人项目挫折经历。文章重点介绍了OpenAPI、Swagger、JSON Schema、AsyncAPI、GraphQL、gRPC和Protocol Buffers等各种规范标准,认为它们是有效API开发的关键工具。
-
A2A协议实现AI代理间通信标准化
A2A(Agent2Agent)协议是一项开放规范,旨在使独立的AI代理能够相互发现、委托任务和交换数据。它将每个代理视为一个黑箱,抽象了底层模型和框架。A2A与模型上下文协议(MCP)的区别在于,A2A侧重于代理间的通信,而非代理与其工具的连接。该协议采用三层架构,支持JSON-RPC、gRPC和HTTP+JSON等多种传输绑定,代理通过Agent Card宣传其能力。
-
Uber 详解 MCP Gateway,管理 5,000 多个 AI 代理工具
Uber 开发了 MCP Gateway 系统来管理 5,000 多个 AI 代理工具,解决了上下文窗口膨胀的挑战。该系统包括用于编目和启用的 MCP Registry,以及用于运行时翻译和执行的 Proxy Gateway,确保现有服务不受影响。这种架构允许代理逐步发现和调用内部 API,而不会压垮模型的上下文窗口,并利用了渐进式发现和响应投影等功能。
-
MLOps:模型服务需要契约,而不仅仅是容器
有效服务机器学习模型所需的不只是容器化;它需要定义一个清晰的契约,概述模型将如何被访问以及如何与其他系统交互。该契约应指定输入和输出格式、错误处理和性能预期,类似于服务级别协议。Docker和Kubernetes等技术对于部署至关重要,但REST和gRPC等底层通信协议以及ONNX等模型格式是该契约的关键组成部分。
-
Bifrost AI 网关为 A2A 流量控制新增 Agent Gateway
Bifrost 是一个用 Go 编写的开源 AI 网关,在其 v2.3.0 版本中引入了 Agent Gateway 功能。该新组件充当代理层,为与 A2A(智能体到智能体)智能体交互的应用程序提供一个单一的、受控的端点。Agent Gateway 负责处理 A2A 流量的身份验证、请求路由和日志记录,类似于 LLM 网关管理模型调用。它允许通过智能体卡片 URL 注册智能体,并通过 JSON-RPC、REST 或 gRPC 访问,访…
-
ARTF v1.0 协议标准化 gRPC 交易所的变异标记
ARTF v1.0 协议旨在为每个变异打上特定的语义信息标签,包括意图和单个 protobuf oneof。该系统适用于仅检查 gRPC OK 状态的交易所,确保即使出价不符合所有标准也能被转发。该协议旨在为管理变异及其相关元数据提供一种结构化方式。
-
2026年代理协议栈标准化MCP和A2A协议
2026年代理协议栈正在通过关键协议进行标准化,例如用于代理到工具通信的模型上下文协议(MCP)和用于代理间交互的Agent2Agent(A2A)协议。MCP的最新修订侧重于无状态核心、OAuth/OpenID Connect对齐和长期运行任务,允许代理使用定义的模式发现和调用工具。A2A现在由Linux基金会下的Agentic AI基金会托管,通过代理卡和任务生命周期使代理能够跨供应商进行通信,支持JSON-RPC和gRPC等多种绑…
-
Hacktoberfest AI 挑战赛展示 AdMuse 和 ARTF 提交项目
Hacktoberfest 开源 AI 挑战赛第二周展示了 ARTF 等提交项目,ARTF 将 OpenRTB 集成到 RTBRequest 中,并使用 gRPC 进行代理变异。另一个提交项目 AdMuse 是一个本地 AI 工具,旨在为小型企业创建宣传内容。
-
Weaviate 向量数据库集成混合搜索和多租户
Weaviate 是一款向量数据库,提供全面的功能套件,包括内置向量化、混合搜索和多租户,旨在简化用户的部署。它将词汇搜索 (BM25F) 与向量搜索相结合,并直接在数据库内支持生成式搜索功能。然而,管理自托管的向量化模块需要单独的容器和资源,并且模式更改(尤其是针对向量化器)需要重新导入数据。
-
AI 代理通过 ARD 查找能力,由 RIGHTCLICK 管理运行时执行
代理资源发现 (ARD) 是一项新兴规范,旨在解决 AI 代理查找和利用预编程集成之外的能力的挑战。ARD 允许代理在运行时搜索和发现相关资源(如 API 或其他代理),而不是嵌入数百万个特定工具。然而,资源的发现与其安全获取和执行是不同的,这导致了 RIGHTCLICK 的开发。RIGHTCLICK 是一个专注于管理 AI 代理交互运行时方面的开源实验。RIGHTCLICK 为代理提供了一个通用接口,抽象了底层能力的具体细节,并确保…
-
Wrapture Python 包提供高级 monkey patching 和可观察性功能
Graham Dumpleton 发布了 wrapture,一个用于 monkey patching 的新 Python 包,同时还提供测试和可观察性功能。该工具允许记录方法调用、分阶段行为和跟踪实时应用程序,可以通过 TOML 文件进行配置,而无需修改 Python 代码。Wrapture 支持广泛的 Python 框架和库,包括 Flask、Django 和 FastAPI,并可以将跟踪导出到 OpenTelemetry,使其成为…
-
Perplexity 详解新的服务基础设施,以实现更快、更便宜的 AI 搜索
Perplexity 详细介绍了其新的服务基础设施,旨在提高嵌入式工作负载的延迟和吞吐量。该系统包含三个关键组件:Ivy,用于请求准备的 HTTP 网关;Tulip,一个使用 Rust 的 gRPC 推理服务器,它会批处理请求并利用 CUDA グラフ和 LazyTensors 来提高效率;以及 ROSE,模型引擎,负责处理前向传播并管理像 Ragged Attention 这样的注意力后端,用于嵌入式。这种集成方法旨在与现有解决方案相…
-
MCP 与 API:日本企业系统采用情况分析
本文将 MCP(元认知编程)与各种应用程序编程接口(API),包括 REST、SOAP、GraphQL 和 gRPC 进行了比较。文章调查了目前在 56 个日本企业系统中正在使用哪些技术。分析旨在确定 MCP 和不同 API 类型在实际企业环境中的实际适用性和采用情况。
-
开发者在最小硬件上构建高性能搜索微服务
一位开发者详细介绍了如何创建一个高性能搜索微服务,该服务旨在处理包含一百万件商品和每日超过1500万次请求的产品目录。该服务使用OpenSearch、Redis和PostgreSQL等组件构建,在最小硬件(2个CPU核心、12 GB RAM)上实现了大约每秒180次搜索。作者强调,虽然AI可以快速生成代码,但关键的工程挑战在于构建一个健壮的系统和做出承载负载的决策,而这是AI目前无法复制的。
-
TormentNexus 采用 Go + TypeScript 模块化单体,而非微服务
TormentNexus 已从微服务架构过渡到模块化单体架构,采用了 Go 和 TypeScript 的多语言方法。这一转变是由于管理其 AI 开发者工具的多个服务所带来的运营开销和延迟问题。新架构利用 Go 来处理 HTTP 服务器和 AI 编排等核心后端功能,同时在 AI 后端管道内使用 TypeScript 来处理代码分析和转换等特定任务,所有这些都在单个运行时进程中完成。
-
Cloudflare Workers 和 Containers 新增低延迟 TCP 和 gRPC 支持
Cloudflare 已在其 Workers 和 Containers 服务中引入了对入站传输控制协议 (TCP) 和 gRPC 的支持。此增强旨在促进应用程序的低延迟通信。此新功能目前提供私有测试版。