Prometheus
PulseAugur coverage of Prometheus — every cluster mentioning Prometheus across labs, papers, and developer communities, ranked by signal.
- instance of Artificial General Engineer 95%
- headquartered in New Albany 95%
- founded Artificial General Engineer 95%
- used by Muse Wonder 90%
- developed by Muse Wonder 90%
- developed Muse Wonder (Full) 90%
- founded Vik Bajaj 90%
- developed Gotit.pub 90%
- developed Muse Spark 90%
- founded by Vik Bajaj 90%
- uses Grafana 70%
- used by Grafana 70%
- 2026-10-19 product_launch Meta is building a massive AI supercluster named Prometheus in Ohio. 来源
- 2026-10-19 product_launch Meta has completed the first phase of its Prometheus AI supercluster. 来源
- 2026-08-26 product_launch VIDRAFT released PROMETHEUS, an embodied AI world model for physical environment simulation. 来源
- 2026-06-18 funding Jeff Bezos' AI startup Prometheus reached a valuation of $41 billion. 来源
- 2026-06-12 product_launch Jeff Bezos' AI startup Prometheus aims to build an 'artificial general engineer'. 来源
- 2026-06-12 funding Jeff Bezos's AI venture, Prometheus, raised $12 billion to develop an artificial general engineer. 来源
- 2026-06-11 funding Jeff Bezos's AI venture Prometheus secured $12 billion in funding at a $41 billion valuation. 来源
- 2026-06-11 funding Jeff Bezos' AI startup Prometheus closed a $12 billion funding round at a $41 billion valuation. 来源
- 2026-06-11 funding Prometheus, Jeff Bezos' AI startup, secured $12 billion in funding at a $41 billion valuation. 来源
- 2026-06-11 funding Prometheus, Jeff Bezos' AI startup, closed a $12 billion funding round at a $41 billion valuation. 来源
- 2026-06-11 funding Jeff Bezos' AI startup Prometheus has raised an additional $12 billion, bringing its total funding to over $18 billion. 来源
- 2026-06-11 funding Jeff Bezos is funding a new AI project codenamed Prometheus to develop an 'Artificial General Engineer'. 来源
- 2026-06-11 funding Prometheus raised $12 billion at a $41 billion valuation. 来源
- 2026-06-11 funding Prometheus, Jeff Bezos's AI startup, raised $12 billion at a $41 billion valuation. 来源
- 2026-06-11 funding Jeff Bezos' AI startup Prometheus raised $12 billion at a $41 billion valuation to develop an 'artificial general engineer'. 来源
15 天有情绪数据
-
Pagedog:AI工具使用LLM进行事件调查
作者详细介绍了Pagedog的创建过程,这是一个由AI驱动的事件调查工具。Pagedog利用消息队列,特别是spooler.sh,以确保事件数据不丢失。然后,工作节点从队列中提取这些事件,并利用大型语言模型(LLMs)进行分析和调查潜在问题,同时可以访问指标和日志等可观测性工具。
-
作者通过本地 Kubernetes 测试修复了 LLM 自动扩展错误
作者详细介绍了使用 vLLM 和 Keda 在 Amazon EKS 上自动扩展自托管 LLM 平台 OzAI 的尝试。虽然使用 Terraform 和 Karpenter 准备了基础设施设置,但重点转移到了测试自动扩展逻辑本身。作者使用本地 Kubernetes 集群和 llama.cpp(而非 GPU)进行测试,发现了并修复了自动扩展设计中的一个错误,该设计旨在根据等待请求的数量而不是 CPU 或 GPU 利用率进行扩展。负载测试…
-
开发者构建开源 LLM 成本和安全防护器
Osama Malik 开发了 BleedStop,一个开源工具,旨在充当 LLM、SMS 和支付 API 的成本和安全防护器。该应用程序位于 API 调用之前,在允许请求继续之前,根据特定租户的规则和预算限制来评估请求。BleedStop 旨在防止提示注入或失控循环等问题导致过度支出或数据泄露,并提供 ALLOW、LIMIT、CHALLENGE 或 DENY 等决策。
-
从零开始构建生产级众包数据平台
本文详细介绍了从零开始构建生产级众包数据平台的建设过程,重点阐述了通过各种技术实现的八个阶段。该平台集成了 Kubernetes、Kafka、Spark、Airflow 和 dbt 等组件,所有这些都在 Google Cloud Platform (GCP) 上进行管理。它包括一个用于生成虚假移动设备测量数据的模拟器,这些数据通过 Spark medallion lake 进行处理,并由 dbt 进行转换,以便在 Looker Stu…
-
Prometheus 系统将 AI 请求成本削减高达 65%
TrustedRouter 开发了一个名为 Prometheus 的系统,该系统可以通过为单个答案进行多达八次模型调用来显著降低 AI 请求成本。虽然代币价格是一个因素,但该系统的真正成本效益通过延迟、重试率和人工审查的需求来衡量。
-
使用 ReskPoints 日志记录保护支持银行的 LLM
文章详细介绍了如何保护支持银行的 LLM 服务,以 Qonto 为虚构示例,通过实施 ReskPoints 来实现。该工具有助于记录代理操作,自动屏蔽 API 密钥和令牌等敏感数据,并将日志发送到 Datadog 和 Prometheus 等可观测性平台。教程概述了安装、初始化、屏蔽和采样规则配置以及与现有监控系统集成以检测和分析提示注入等潜在安全威胁的步骤。
-
从头训练的7.57亿参数大语言模型不敌微调后的Qwen模型
一位用户从头开始训练了一个拥有7.57亿参数的大语言模型,并将其性能与微调后的Qwen2.5-0.5B-Instruct模型进行了比较。作者详细介绍了整个过程,包括数据准备、Transformer架构以及QLoRA等技术的应用。最终,更小的、经过微调的Qwen模型表现优于那个从头训练的、参数量更大的模型。作者解释说,这个结果并不奇怪,而是利用预训练基础模型的必然结果。
-
Meta 发布 Muse Wonder Frontier Model 以应对 Agentic 任务
Meta 推出了两款新的 Frontier 级 AI 模型 Muse Wonder 和 Muse Wonder Full,由其重建的 Meta Superintelligence Labs 开发。这些模型专为复杂、耗时长的 Agentic 任务而设计,具有 100 万 token 的上下文窗口和多模态输入能力。Meta 声称它们与 OpenAI 和 Anthropic 的领先模型相当,但独立基准测试显示 Muse Wonder Ful…
-
Affirm 彻底改革 MLOps 以实现自动化模型发布
Affirm 的机器学习与决策平台开发了一种新的 MLOps 方法,专注于从运行时开始自动化模型发布。该系统旨在通过集成各种工具和平台来简化部署过程。目标是在其基础设施内实现更高效、更可靠的模型服务。
-
荒野中的机器人:人工智能、荒诞与后人类存在
本文探讨了后人类或被遗弃世界中的机器人概念,将虚构机器人与哲学思想进行类比。文章以《天空之城》中的拉普达机器人、皮克斯的《机器人总动员》中的WALL-E以及《我的世界》中的铁傀儡为例,说明机器人在其原始目的或人类创造者消失很久之后仍继续执行其编程任务。文章将此与阿尔贝·加缪的荒诞哲学联系起来,特别是他对西西弗斯神话的解读,认为当人类和机器人的努力是重复的且没有最终意义时,它们都可能面临荒诞的存在。
-
开源可观测性面临集成挑战,OpenTelemetry 提供前进的道路
文章讨论了将各种开源可观测性工具集成到统一后端解决方案中的复杂性。它强调了诸如 Prometheus 和 Elastic APM 等工具之间的功能重叠、多样的配置方法以及对上下文数据感知以优化存储和警报的需求等挑战。作者认为,虽然专有解决方案提供了简单性,但它们牺牲了灵活性,并建议利用 OpenTelemetry 的语义约定来简化数据映射并提高 AI 代理集成的潜力。
-
自托管 LLM 监控系统跟踪关键性能指标
在 MacBook Pro M1 Pro 上构建的自托管 LLM 平台可能会遇到超出标准 HTTP 200 响应的问题,例如提示被静默截断或答案为空。为解决此问题,作者开发了一个使用 Grafana 和 PostgreSQL 的监控系统,直接查询 LiteLLM 请求日志。这种方法可以跟踪关键指标,如首次令牌时间(time to first token)和解码速度(decode speed),这对于理解 LLM 性能至关重要,超越了简…
-
阿里云赋能 AI 代理解决云可观测性问题
阿里云推出了 CMS MCP 系统,允许 AI 代理直接解决云可观测性问题。该协议使 AI 模型能够安全地与云服务进行交互,例如查询告警和指标,而无需本地环境设置。该系统将现有的命令行界面操作映射到 MCP 工具,确保 AI 驱动的调查具有一致的权限和可审计性。
-
模型上下文协议 (MCP) 简化了 LLM 与运维工具的集成
模型上下文协议 (MCP) 是一项开放标准,旨在简化大型语言模型 (LLM) 与外部运维工具和数据源的交互方式。MCP 充当统一的客户端-服务器接口,允许 LLM 在无需为每个系统编写自定义集成代码的情况下,发现并调用 Prometheus、Loki 和 Kubernetes 等工具。该协议在工具接口层运行,不同于“代码模式”等编排模式,后者可以利用 MCP 或其他协议来管理工具执行和数据处理。
-
NVIDIA Dynamo 自动化 LLM 推理的 GPU 资源规划
NVIDIA 推出了 Dynamo 平台,旨在优化大型语言模型 (LLM) 推理的 GPU 资源规划。该系统可在 Kubernetes 集群上自动化 GPU 工作负载扩展,以满足延迟和吞吐量的服务水平协议 (SLA) 目标。Dynamo 的 SLA Planner 分析工作负载特性和性能要求,动态调整资源以防止过度配置并确保高效的计算利用率。部署涉及使用 NVIDIA GPU Operator 设置 Kubernetes,集成 Pro…
-
开发者分享四次被测试遗漏的关键系统故障
一位开发者分享了四种情况,在这些情况下,他们的系统根据现有测试似乎运行正常,但未能达到预期标准。这些问题包括:LLM-Council项目中绕过静态分隔符的提示注入漏洞;RAG管道返回了不正确但有效的错误结果;代理系统中的遥测数据无意中暴露了敏感用户信息;以及网站严格的内容安全策略被构建过程悄然破坏。作者强调了设计专门针对所需属性的测试的重要性,通过破坏系统来确保检查按预期失败。
-
LLM 推理延迟诊断:规则优于 eBPF 工具
一项关于诊断 Kubernetes 上部署的 LLM 推理 Pod 中延迟峰值的研究发现,结合 OpenTelemetry spans、Linux PSI 指标和 Kubernetes 事件,并通过确定性规则进行关联,比 Grafana Beyla 等基于 eBPF 的工具更有效。研究强调,原始 CPU 利用率指标不足以区分容器级节流和主机级饱和,并且 Grafana Beyla 表现出显著的跟踪噪声和属性捕获失败。所提出的框架实现了…
-
Kubernetes GPU 计费不准确问题凸显
文章认为 Kubernetes GPU 计费常常不准确,因为它依赖于不能反映实际成本的利用率指标。文章指出,虽然 GPU 利用率表明硬件是否繁忙,但它与运行推理系统的成本没有直接关联。作者建议,每 token 的成本是评估推理工作负载经济可行性的更有意义的指标。
-
Nightshift 为开发者提供语音激活的 SRE 和安全助手
Nightshift 是一个开源、自托管的 MCP 服务器,旨在充当团队的语音激活值班和安全助手。它允许工程师提出诸如“哪里出错了?”之类的问题,并通过关联警报、错误率和部署历史,以简洁的语音回答详细说明严重性、原因和建议的后续步骤。该系统还提供安全检查、运营简报、管理事件时间线,并可以执行安全的、两阶段的操作,例如故障转移到备用系统,在进行任何更改之前需要用户明确确认。
-
适用于 Node.js AI 应用的可观测性栈详解
一位开发者概述了适用于 Node.js AI 应用的可观测性栈,强调了在上线前进行监控的重要性。提出的栈包括用于标准追踪、日志记录、指标、错误追踪和特定于 LLM 的追踪的工具。