Datadog
PulseAugur coverage of Datadog — every cluster mentioning Datadog across labs, papers, and developer communities, ranked by signal.
15 天有情绪数据
-
Musinsa 使用 JFR 调试难以捉摸的 Jenkins 批处理作业挂起问题
一家韩国时尚电商平台 Musinsa 的物流团队在处理一个 Spring Batch 作业时遇到了持续性的问题，尽管之前已经进行了优化，但 Jenkins 的一个槽位仍会莫名其妙地挂起数分钟。由于问题的时机和性质，标准的调试工具（如线程转储和堆转储）均无效。通过实施 Java Flight Recorder (JFR) 并使用最少的 JVM 选项，该团队能够捕获详细的 JVM 事件，即使在挂起结束后也能获取信息，最终找到了导致延迟的真正原因。
-
开发者提出LLM调用结果的4状态模型
一位开发者提出了一种在复杂工作流中处理大型语言模型（LLM）调用的新模型，超越了简单的try/catch错误处理。该模型引入了四种不同的结果：OK（成功结果）、DEGRADED（可用性下降但仍可用的回退输出）、ABSTAINED（无需操作，预先确定）和FAILED（无法恢复的错误）。这种方法旨在为工作流步骤提供更清晰的区分，避免了复杂的错误逆向工程。该设计强调类型安全，确保只有成功或降级的结果才带有可用值，同时将操作指标与敏感的LLM…
-
AI 编码工具加速开发，但将重点转移到理解和信任上
AI 编码助手在软件开发中已变得司空见惯，使开发人员能够更快地生成代码。然而，这种速度可能会产生虚假的进展感，因为理解、维护和信任生成代码的责任转移到了开发的后期阶段。虽然 AI 工具可以放大团队现有的优势，但如果缺乏强大的工程纪律和严格的测试，也可能加剧劣势。最终，成功的团队将是那些优先考虑理解他们所交付代码的团队，而不是仅仅关注其生成速度的团队。
-
AI 代理的可靠性取决于可观测性，而非仅仅是模型
AI 代理的可靠性取决于其可观测性层，而不仅仅是使用的模型或提示。一个每天处理 10,000 份工作列表的管道在使用 GPT-4 函数调用时，最初缺乏适当的日志记录，导致在一次无声的模型更新后出现三天的数据损坏和成本浪费。实施结构化日志记录，包括跟踪 ID、令牌计数和每次 LLM 调用的成功标志，揭示了延迟变化和某些列表的高成本问题，从而能够进行提示截断和令牌限制，从而节省了开支并提高了性能。
-
AI应用开发严重依赖基础设施，而非仅仅是代码
构建一个应用程序，即使是专注于AI编码的应用，也涉及大量通常被忽视的基础设施工作。作者开发Journly应用的经历突显了与AWS、Google Cloud和Azure等云平台相关的工具和服务的广泛需求。关键组件包括使用Docker和Kubernetes进行容器化，以及使用Ci Cd、Terraform和Ansible进行自动化。监控和日志记录也至关重要，利用了Datadog、Splunk Inc.和SENTRY等平台。
-
Datadog 将 AI 代理与可观察性技术栈集成，实现实时调试
Datadog 发布了新的模型上下文协议 (MCP) 服务器，允许 Claude 等 AI 代理直接访问和交互其可观察性技术栈。此次集成使 AI 模型能够实时查询指标、分析日志、检查跟踪和审查事件时间线。该工具旨在通过允许 AI 代理自主收集数据、诊断问题并提出解决方案，而无需手动切换上下文，从而简化调试和事件响应。
-
AI 代理的隐藏成本：工具模式在对话开始前消耗上下文
一位开发者强调了 AI 代理会话中“急切加载”的工具模式所带来的显著且常被忽视的成本。当集成多个工具时，它们的完整 JSON 定义会在任何交互开始之前消耗掉大部分上下文窗口。作者提出了一种解决方案，即最初仅按名称和简短描述列出工具，并在需要时才按需获取其完整模式，从而大大减少了初始上下文开销。
-
LLM 可观测性：将指标导出到 Prometheus 和 Datadog
本文提供了一份指南，介绍如何通过将 LLM 指标导出到 Prometheus 和 Datadog 等可观测性平台来监控 AI 应用。文章强调了跟踪特定 LLM 指标的重要性，例如 token 使用量、延迟、错误率和响应质量，这些指标超出了传统应用监控的范畴。该指南建议使用 AI 网关（如 Maxim AI 的 Bifrost）来集中收集指标，并标准化遥测数据，以便更容易地导出到 Prometheus 或 Datadog，并利用 Kub…
-
OpenTelemetry 集成 LLM 网关以增强 AI 可观测性
OpenTelemetry 是一个用于收集遥测数据的厂商无关框架，目前正与 LLM 网关集成，以增强复杂 AI 系统的可观测性。此集成允许对从用户界面到后端服务和 AI 模型交互的分布式应用程序中的请求进行标准化跟踪。通过提供整个请求生命周期的统一视图，开发人员可以更轻松地查明 AI 驱动功能的延迟或不准确的根本原因。
-
AI优先数据中心的观测能力正在演进
文章讨论了AI优先数据中心观测能力不断演进的需求，从传统的轮询方法转向更具概率性的方法。文章强调了监控AI工作负载的重要性，这与传统的IT系统不同。作者认为需要一种新的架构范式来有效管理和观测这些复杂的AI环境。
-
AI网关通过高级控制增强AWS Bedrock工作负载
对于使用AWS Bedrock访问各种基础模型的企业而言，专用的AI网关提供了对路由、安全和成本管理的增强控制。像Bifrost这样的解决方案，一个来自Maxim AI的开源网关，提供了多提供商路由、自动故障转移和统一治理等高级功能。这些网关对于管理复杂AI工作负载、确保可靠性以及通过支持Bedrock以外的多个LLM提供商来避免供应商锁定至关重要。
-
AI代理因向量数据库上下文投毒而易受凭证泄露攻击
一种称为内存和上下文投毒的安全漏洞可能发生在将对话历史记录存储在向量数据库中的AI代理中。如果代理遇到包含API密钥等敏感信息的错误，并且该错误被记录并随后保存到向量数据库中，那么未来的提示注入攻击可能会导致代理泄露这些敏感数据。为了对抗这一点，可以在网络套接字层运行的内联主动响应扫描器可以在敏感信息进入代理内存之前对其进行扫描和编辑。
-
Patronus AI 融资 5000 万美元用于 AI 代理压力测试模拟 · 追踪 5 个来源
Patronus AI 是一家由前 Meta AI 研究人员创立的初创公司，已获得 5000 万美元的 B 轮融资。该公司开发模拟数字环境，旨在对 AI 代理进行压力测试，然后再将其部署到实际应用中。这种方法借鉴了 Waymo 训练自动驾驶汽车的方法，旨在确保 AI 代理在广泛的复杂任务中的可靠性和性能。
-
使用 FastAPI 和 LLM 构建生产级 AI 应用：架构和最佳实践
本文概述了使用 FastAPI 和大型语言模型 (LLM) 开发生产级 AI 应用的架构和最佳实践。它详细介绍了一个涉及前端、API 层、AI 服务层、向量数据库和 LLM 提供商的系统架构，强调了 FastAPI 因其性能和异步能力而带来的优势。文章还涵盖了用于访问领域特定知识的检索增强生成 (RAG)，用于部署的 Docker 容器化，以及 Prometheus 和 Grafana 等监控工具对可观察性的重要性。
-
Microsoft 推出自主人工智能代理 Scout；Datadog 和 Kyndryl 加强人工智能系统监控
Microsoft 开发了一款名为 Microsoft Scout 的新型自主人工智能代理，旨在实现持续运行。该代理旨在提高工作流程效率和人工智能治理。此外，Datadog 和 Kyndryl 正在加强合作，专注于监控和管理人工智能系统。
-
MCP 代理与网关：理解 AI Agent 请求路由
MCP 代理是一种传输层，用于在 AI Agent 和 MCP 服务器之间转发请求，主要解决了连接本地客户端与远程服务器的挑战。然而，它缺乏身份验证、基于角色的访问控制和审计跟踪等治理功能。相反，MCP 网关提供了这些关键的安全和策略执行能力，适用于需要强大控制的多团队或多服务器环境。作者在一次凭证蔓延和一次近乎发生提示注入事件中，通过亲身经历认识到了代理在复杂组织设置中的局限性，从而了解了这一区别。
-
Datadog AI 事件管理依赖平台工程师
Datadog 的 DASH2026 工程技术分享会强调，AI驱动的事件管理工具只有在人类平台工程师建立了强大的基础设施和工作流程后才能有效。分享会着重指出了在设计和维护支持运营中AI的系统方面，人类专业知识的基础性作用。
-
LLM成本归属：按功能和租户跟踪支出
本文提出了一种在应用程序内详细归属大型语言模型（LLM）使用成本的方法。它建议通过添加自定义属性，如“app.feature”和“app.tenant_id”，来增强现有的跟踪数据，以识别是哪些特定功能或客户在驱动LLM支出。该方法利用OpenTelemetry约定，并主张在LLM调用时计算成本，而不是仅仅依赖提供商的账单仪表板，从而在无需大量代码重写的情况下实现更精细化的财务洞察。
-
新的 MAPE-K 架构旨在解决 LLM API 可靠性问题
提出了一种新的 MAPE-K（监控-分析-计划-执行-知识）自愈架构，以解决 AI 代理中 LLM API 的显著可靠性问题。Datadog 报告称，生产环境中 LLM API 的平均故障率为 5%，导致大量任务失败，尤其是在长链代理场景中。现有的解决方案，如手动重试、网关代理（LiteLLM、Portkey）或自定义容错逻辑存在局限性，未能实现零干预恢复。所提出的嵌入式自愈引擎（由 NeuralBridge SDK 演示）声称具有 …
-
Datadog 通过 BYOC 和联合搜索增强可观测性
Datadog 推出了包括自带云 (BYOC) 支持、联合日志搜索以及与第三方 SIEM 系统集成在内的新功能。尽管取得了这些进展，一位分析师还是警告了潜在的供应商锁定风险。此次更新还重点介绍了新的代理式 AI 安全工具，并讨论了与 AI 相关的复杂成本结构。