gRPC
PulseAugur coverage of gRPC — every cluster mentioning gRPC across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI 代理通过 ARD 查找能力,由 RIGHTCLICK 管理运行时执行
代理资源发现 (ARD) 是一项新兴规范,旨在解决 AI 代理查找和利用预编程集成之外的能力的挑战。ARD 允许代理在运行时搜索和发现相关资源(如 API 或其他代理),而不是嵌入数百万个特定工具。然而,资源的发现与其安全获取和执行是不同的,这导致了 RIGHTCLICK 的开发。RIGHTCLICK 是一个专注于管理 AI 代理交互运行时方面的开源实验。RIGHTCLICK 为代理提供了一个通用接口,抽象了底层能力的具体细节,并确保…
-
Wrapture Python 包提供高级 monkey patching 和可观察性功能
Graham Dumpleton 发布了 wrapture,一个用于 monkey patching 的新 Python 包,同时还提供测试和可观察性功能。该工具允许记录方法调用、分阶段行为和跟踪实时应用程序,可以通过 TOML 文件进行配置,而无需修改 Python 代码。Wrapture 支持广泛的 Python 框架和库,包括 Flask、Django 和 FastAPI,并可以将跟踪导出到 OpenTelemetry,使其成为…
-
Perplexity 详解新的服务基础设施,以实现更快、更便宜的 AI 搜索
Perplexity 详细介绍了其新的服务基础设施,旨在提高嵌入式工作负载的延迟和吞吐量。该系统包含三个关键组件:Ivy,用于请求准备的 HTTP 网关;Tulip,一个使用 Rust 的 gRPC 推理服务器,它会批处理请求并利用 CUDA グラフ和 LazyTensors 来提高效率;以及 ROSE,模型引擎,负责处理前向传播并管理像 Ragged Attention 这样的注意力后端,用于嵌入式。这种集成方法旨在与现有解决方案相…
-
MCP 与 API:日本企业系统采用情况分析
本文将 MCP(元认知编程)与各种应用程序编程接口(API),包括 REST、SOAP、GraphQL 和 gRPC 进行了比较。文章调查了目前在 56 个日本企业系统中正在使用哪些技术。分析旨在确定 MCP 和不同 API 类型在实际企业环境中的实际适用性和采用情况。
-
开发者在最小硬件上构建高性能搜索微服务
一位开发者详细介绍了如何创建一个高性能搜索微服务,该服务旨在处理包含一百万件商品和每日超过1500万次请求的产品目录。该服务使用OpenSearch、Redis和PostgreSQL等组件构建,在最小硬件(2个CPU核心、12 GB RAM)上实现了大约每秒180次搜索。作者强调,虽然AI可以快速生成代码,但关键的工程挑战在于构建一个健壮的系统和做出承载负载的决策,而这是AI目前无法复制的。
-
TormentNexus 采用 Go + TypeScript 模块化单体,而非微服务
TormentNexus 已从微服务架构过渡到模块化单体架构,采用了 Go 和 TypeScript 的多语言方法。这一转变是由于管理其 AI 开发者工具的多个服务所带来的运营开销和延迟问题。新架构利用 Go 来处理 HTTP 服务器和 AI 编排等核心后端功能,同时在 AI 后端管道内使用 TypeScript 来处理代码分析和转换等特定任务,所有这些都在单个运行时进程中完成。
-
Cloudflare Workers 和 Containers 新增低延迟 TCP 和 gRPC 支持
Cloudflare 已在其 Workers 和 Containers 服务中引入了对入站传输控制协议 (TCP) 和 gRPC 的支持。此增强旨在促进应用程序的低延迟通信。此新功能目前提供私有测试版。
-
AI代理采用MCP和Zod实现动态工具发现
本文介绍了模型上下文协议(MCP)作为解决AI工具定义在代理初始化中硬编码的局限性的方案。MCP结合Zod进行模式验证,实现了动态工具发现和运行时负载验证,与传统软件开发中的微服务架构有相似之处。这种方法允许AI代理适应不断变化的外部API和新功能,而无需重新启动应用程序,从而防止LLM幻觉破坏数据并确保更安全的并行工具执行。
-
Anthropic 的 MCP 协议简化了 AI 集成,但存在安全风险
由 Anthropic 在 2024 年末推出的模型上下文协议 (MCP) 正在迅速成为 AI 代理与外部工具和数据源交互的标准。该协议简化了集成,使得 HubSpot 和 Adobe 等平台的自定义 API 连接过时。然而,MCP 的快速采用已经超出了安全审查的范围,存在严重的“工具投毒”风险,恶意服务器可以在工具描述中嵌入有害指令,可能导致数据泄露或 AI 代理的未经授权的操作。
-
开发者使用 Git worktrees 实现跨多个代码库的 AI 代理
一位开发者描述了他们如何让 AI 代理能够同时处理多个代码仓库的历程。最初尝试在代理会话之间复制粘贴代码或将代理启动在项目根目录,由于上下文丢失或代理因过多不相关仓库而不堪重负,效率低下。开发者通过使用 Git worktrees 找到了解决方案,Git worktrees 允许在共享的 Git 对象数据库中存在仓库的多个副本,从而使代理能够以一致且高效的方式访问和修改不同仓库中的代码。
-
Modal 推出超低延迟服务器,适用于高性能应用
Modal 推出了名为 Modal Servers 的新功能,旨在为需要高性能的应用(如交互式代理的 LLM 推理)提供超低延迟服务器托管。这项新产品利用了一个由流式边缘代理、智能无状态代理和计算负载均衡器组成的路由层,该层构建在 Pingora、Envoy 和 Spanner 等技术之上。与提供类似 TCP 的内置可靠性功能的 Modal Web Functions 不同,Modal Servers 针对速度进行了优化,其运行方式更…
-
AI模型准确预测并发Go程序行为
研究人员开发了一种新颖的方法,用于训练AI模型以预测并发Go程序的行为,解决了由不确定调度器带来的挑战。通过多次运行程序以创建结果的经验分布,并使用KL目标对一个7B模型进行微调,该方法在真实世界的生产错误上达到了36.2%的准确率。这种方法优于零样本的Gemini 3.5 Flash模型以及未经微调的同一模型,同时还提高了校准度。
-
提出新的 Agent Surface API 模式以实现 AI 集成
一种名为 Agent Surface(或模型上下文协议 MCP)的新设计模式被提出,用于连接现有的企业系统与 AI 代理。该模式旨在为 AI 消费创建一个一流的 API 层,以解决可发现性、粒度不匹配、安全性和操作访问等挑战。文章认为,与之前的 API 消费者不同,AI 代理可以有效地利用自我描述能力,实现了 HATEOAS 最初未能普及的承诺。
-
用户前往 AutoCon5 参加 AI、infrahub 和 netbox 研讨会
用户正前往慕尼黑参加 AutoCon5,期待参加关于 infrahub、netbox 和 gRPC 的研讨会以及与 AI 相关的演示。该活动似乎专注于基础设施和技术主题。
-
Rust RAG、无分词器TTS和离线AI生存计算机
该集群重点介绍了本地和离线AI部署的进展。它包含一个关于使用Rust构建高性能检索增强生成(RAG)系统的指南,强调了自托管应用程序的性能和控制。此外,它还介绍了OpenBMB的VoxCPM2,一个新颖的、无分词器的多语言文本到语音模型,能够进行逼真的语音克隆;以及Project N.O.M.A.D.,一个用于独立、离线AI生存计算机的开源项目。
-
Experian、ServiceNow 合作开发代理式 AI;AAIF 峰会聚焦协议加固
Experian 和 ServiceNow 正在合作,以增强代理式 AI 在业务工作流中的可扩展性。此次合作旨在将 AI 功能更深入地集成到企业系统中,其理念是多代理 AI 系统正变得像微服务一样基础。此外,AAIF 的 MCP Dev Summit 专注于加固网关、gRPC 和可观测性信号协议,这表明正在推动更强大、更安全的 AI 基础设施。
-
REST vs. GraphQL vs. gRPC:API 设计之争仍在继续
该集群提出了一个问题,即与 GraphQL 和 gRPC 等替代方案相比,RESTful API 设计目前的现实意义如何。它将此作为 Web 服务和分布式系统更广泛背景下的一个讨论点。
-
Claude Code 帮助开发者设计更好的 API,避免常见陷阱
一位开发者分享了使用 Anthropic 的 Claude Code 设计 API 的工作流程,旨在避免命名不一致和涌现式设计等常见陷阱。该过程涉及在编写任何代码之前,与 Claude Code 进行结构化对话,以定义 API 的目的和预期用例。这种方法有助于及早发现设计问题,从而获得更健壮、更易于维护的 API 合约。