Modal
PulseAugur coverage of Modal — every cluster mentioning Modal across labs, papers, and developer communities, ranked by signal.
- 2026-06-25 product_launch Modal launched Modal Servers, a new feature for hosting ultra-low-latency servers. 来源
- 2026-06-23 product_launch Modal launched Auto Endpoints, a new feature for optimizing AI model inference. 来源
- 2026-06-22 product_launch Modal has launched Readiness Probes to provide better visibility into the full sandbox initialization process. 来源
- 2026-06-15 product_launch Modal released several product updates including VM Sandboxes, lower latency routing, RBAC, and more. 来源
- 2026-05-27 product_launch Modal launched Role-Based Access Control (RBAC) for its Team and Enterprise plan users. 来源
- 2026-05-22 product_launch Modal launched an autoscaling GPU feature for AI research agents. 来源
- 2026-05-22 product_launch Modal has detailed its five-year engineering effort to create a serverless GPU system for AI inference. 来源
- 2026-05-21 funding Modal raised $355 million in Series C funding at a $4.65 billion valuation. 来源
- 2026-04-10 partnership Modal acquired Butter, integrating its team and technology to enhance Modal Sandboxes. 来源
17 天有情绪数据
Modal's GPU scaling technology will be adopted by other AI development platforms
Modal's achievement of serverless GPUs for AI inference in seconds, coupled with their autoscaling GPUs for AI research agents, represents a significant engineering feat in GPU orchestration. Given the increasing demand for efficient AI compute, it's plausible that other AI development platforms or cloud providers might seek to integrate or license Modal's technology to enhance their own offerings.
Modal's infrastructure is enabling specialized AI applications like legal tech and theorem proving
The cluster evidence highlights Modal's infrastructure being used by AE Studio for AI math theorem proving and indirectly by NyayAI for an AI legal assistant. This indicates Modal's platform is flexible enough to support highly specialized AI domains beyond general LLM inference, suggesting a growing ecosystem of niche AI applications built on their services.
Modal to announce enterprise-focused GPU orchestration product within 6 months
Recent evidence shows Modal achieving serverless GPUs for AI inference in seconds and launching autoscaling GPUs for AI research agents. OpenAI's integration with their Agents SDK further highlights Modal's capability in providing scalable GPU resources. This suggests Modal is building a robust platform for demanding AI workloads, potentially leading to an enterprise-focused product offering for managing and scaling GPU compute.
Modal to announce enterprise-focused serverless GPU offerings within 6 months
Modal's recent focus on achieving serverless GPUs for AI inference in seconds, coupled with their $355M funding round, suggests a strategic push towards enterprise adoption. The ability to scale GPU resources rapidly and cost-effectively is a key pain point for businesses. Expect an announcement detailing specific enterprise-grade features and support within the next six months.
Modal's autoscaling GPU feature to be adopted by AI research labs for cost optimization
Modal's new autoscaling GPUs for AI research agents, demonstrated by its success in OpenAI's Parameter Golf challenge, directly addresses the cost and efficiency concerns of AI research. Labs with unpredictable workloads will likely find this feature attractive for optimizing compute spend, leading to increased adoption.
-
Harbor 添加 LangSmith 集成，实现可切换的 AI Agent 评估后端
Harbor 是一个用于评估 AI Agent 的开源框架，现已集成了 LangSmith 的生产沙箱。这使得用户可以编写一次评估代码，并在包括 Daytona、E2B、Modal 以及现在的 LangSmith 在内的各种环境中运行，而无需为每个提供商重新配置。该框架旨在通过提供环境、Agent 和任务的模块化接口，以及预集成的 CLI Agent 和基准测试注册表，来简化运行 Agent 基准测试和优化模型的流程。
-
Modal 重新定位为“计算机”以阐明其云服务
Modal 是一个云计算平台，它将重新定义其身份，将其定位为“计算机”而非典型的云服务。该公司认为，其架构通过在容器内管理程序并利用类似于传统计算机内存和文件系统的分层存储结构，其功能类似于个人计算机。这种定位旨在阐明 Modal 提供计算资源的独特方法，将其与 Uber for compute 或推理提供商等服务区分开来。
-
Modal 首席技术官在 Latent.Space 播客上讨论 AI 扩展挑战
Modal 首席技术官 Akshat Bubna 在 Latent.Space 播客上讨论了大规模部署 AI 模型所面临的挑战和潜力。他强调了管理和扩展 AI 基础设施的复杂性，尤其是在处理大量模型或实验时。Bubna 强调需要高效的工具和平台来处理“10万个沙盒问题”，指的是 AI 开发和测试所需的众多隔离环境。
-
Modal 推出工具以比较无服务器与预留 GPU 成本
Modal 推出了一款交互式工具，帮助团队估算无服务器和预留 GPU 的相关成本，尤其适用于 AI 应用。该工具强调，当 GPU 的峰值需求远超平均使用量时（例如推理、训练和代理开发等工作负载的常见情况），无服务器 GPU 可能比预留更具成本效益。此举旨在弥合财务和工程部门在 GPU 经济性方面的理解差距。
-
文件管理器插件集成 Modal 和 Hugging Face 以进行模型管理
一位开发者为 Double Commander 和 Total Commander 文件管理器创建了集成 Modal 和 Hugging Face (HF) 的插件。这些插件使用户能够远程下载、上传、重命名和浏览 HF 存储库中的文件，这对于管理和下载模型特别有用。
-
Anthropic推出Claude Science，通过Modal集成可扩展计算能力
Anthropic推出了Claude Science，这是一个专为生命科学研究人员设计的AI工作台，允许他们在对话界面中直接执行计算任务。该平台与云计算提供商Modal集成，为数据处理和分子设计等高要求工作负载提供可扩展的基础设施。研究人员可以利用Modal的并行处理、GPU访问、共享存储和可复现环境等功能，进行复杂的分析，而无需进行广泛的手动设置和管理。
-
AI 代理接管基础设施管理，减少对仪表板的依赖
一位开发人员将 Modal Serverless AI 基础设施 MCP 与一个代理集成，有效地取代了手动检查 Modal 仪表板的需要。该代理充当初级 DevOps 工程师，能够监控和控制无服务器计算作业，例如停止失控的进程以防止账单飙升。该系统还允许通过自然语言查询来检索基础设施元数据，如持久卷和秘密，从而简化了复杂的管理任务。
-
SemiAnalysis发现Modal的纽约办公室
SemiAnalysis分享了在纽约市Modal办公室的发现，并附带了一个链接和一张图片。该帖子于2026年6月27日发布，获得了大量浏览和互动。
-
Modal 推出超低延迟服务器，适用于高性能应用
Modal 推出了名为 Modal Servers 的新功能，旨在为需要高性能的应用（如交互式代理的 LLM 推理）提供超低延迟服务器托管。这项新产品利用了一个由流式边缘代理、智能无状态代理和计算负载均衡器组成的路由层，该层构建在 Pingora、Envoy 和 Spanner 等技术之上。与提供类似 TCP 的内置可靠性功能的 Modal Web Functions 不同，Modal Servers 针对速度进行了优化，其运行方式更…
-
Anthropic 发布 Claude Tag，一款适用于 Slack 的多人 AI 代理
Anthropic 推出了 Claude Tag，这是一款新推出的 Slack 集成，旨在作为团队的多人、主动和持久的 AI 代理。此功能允许 Claude 加入选定的 Slack 频道，异步响应请求，并与各种工具和代码库集成。Claude Code 团队报告称，他们使用 Claude Tag 的内部版本生成了 65% 的产品 PR，包括 Claude Tag 本身的代码。开发人员还可以使用 Arcade.dev、Python 和 S…
-
Modal Auto Endpoints 通过自动化扩展优化 AI 推理
Modal 推出了 Auto Endpoints，一项旨在优化 AI 模型推理的新功能。该系统自动管理和扩展推理端点，使用户能够更高效地部署和运行其模型。目标是为用户提供对其 AI 工作负载更大的控制和性能。
-
Modal Auto Endpoints 提供自有、优化的 LLM 推理
Modal 推出了 Modal Auto Endpoints，一项旨在提供用户可以完全拥有和控制的优化 LLM 推理的新服务。该产品旨在让团队在无需管理底层基础设施的复杂性的情况下，获得自托管推理的好处，例如对服务堆栈的控制和对详细指标的访问。该服务与 OpenAI API 兼容，并支持 GLM-5.2 等开放模型，可以通过简单命令进行部署。
-
智谱AI的GLM-5.2模型已部署在无服务器GPU上
智谱AI发布了GLM-5.2，一个拥有7000亿参数的混合专家模型（MoE），在复杂推理和软件工程任务方面表现出色，据报道在某些基准测试中能媲美甚至超越Claude 3.5 Sonnet和GPT-4o等专有模型。由于其庞大的权重和上下文窗口，部署这个大型模型需要一个8x NVIDIA H200 GPU集群，这带来了显著的基础设施挑战。文章详细介绍了在无服务器GPU平台Modal上部署GLM-5.2的案例研究，强调了FP8量化在内存效率…
-
新的推测解码方法提高了 LLM 推理速度和安全性
研究人员正在开发先进的推测解码技术，以加速大型语言模型推理。HyperDFlash 针对 DeepSeek-V4 的多超连接架构优化了解码，提高了草稿的准确性和速度。Dustin 通过识别关键标记并减少重新计算来专注于高效的长上下文生成。同时，TAIS 对推测解码的输出进行安全性不变性筛选，发现在温度为零时没有分歧。JetSpec 和 RLM-Cascade 通过结合草稿策略并在响应级别应用推测解码来实现高性价比的 API 服务，提供…
-
Modal 推出 Readiness Probes 以追踪沙盒完全初始化
Modal 推出了 Readiness Probes 功能，旨在弥合沙盒容器启动与完全运行之间的差距。虽然许多基准测试关注容器启动时间，但 Modal 指出，诸如克隆仓库或安装依赖项等重要的应用程序级设置通常在容器启动后、但尚未准备好使用之前发生。Readiness Probes 在此初始化完成后提供清晰信号，使开发人员能够优化整个启动生命周期，而不仅仅是容器调度。
-
MiniMax AI 期待 Google DeepMind 黑客松的创新
MiniMax AI 对由 Google DeepMind 和 HUD Frontier 在 Y Combinator 主办的黑客松涌现的创新表示兴奋。此次活动还得到了 ExaAI Labs、Modal、Anthropic、Fireworks AI 和 Google AI Studio 等多家 AI 公司的联合赞助，旨在促进使用 Google Gemma 进行开发。
-
Modal 发布 Qwen 投机解码器，LLM 推理速度提升 5-20% · 跟踪 1 个来源
Modal 发布了一套用于 Qwen 系列的新投机解码模型，旨在显著加速 LLM 推理。这些模型与 z-Labor 合作开发并与 SGLang 集成，在现有 DFlash 投机器之上提供了额外的 5-20% 加速。这一进步使得 Qwen 3.5 122B-A10B 等模型在高端硬件上能够达到每秒 1000 多个 token，同时保持长上下文任务的性能。Modal 强调投机解码是 LLM 推理的关键优化，与传统的内核优化相比，能够带来显…
-
Anthropic 的 Claude Code 通过动态工作流简化了多代理 AI
Anthropic 为其 Claude Code 模型推出了一项新的“动态工作流”功能，该功能允许对多代理 AI 任务进行更复杂的编排。此功能使 Claude 能够编写可重用的脚本，协调多个子代理，为它们分配任务，并在报告结果之前让它们相互验证工作。此前，像 Every 的 Nityesh Agarwal 这样的开发者不得不创建复杂、不完美的“hacky”的解决方案来管理上下文窗口等限制，花费数周时间解决的问题，由于这项新功能而变得过…
-
推测性解码加速 LLM 推理
推测性解码是一种推理优化技术，它使用一个快速、较小的“草稿”模型来提议多个未来 token。然后，一个更大、更慢的“目标”模型会并行验证这些提议的 token。这种方法通过在不影响输出质量的情况下每步生成多个 token 来加速大型语言模型的 token 生成。
-
Modal 通过 VM 沙盒、RBAC 和低延迟增强平台
Modal 发布了多项旨在改善开发者体验和基础设施能力的产品更新。主要增强功能包括通过区域选项实现低延迟路由、用于更复杂工作负载的新 VM 沙盒运行时以及用于增强沙盒内安全性的域名允许列表。此外，Modal 还引入了用于管理代理能力的 Modal Skills，以及用于 Team 和 Enterprise 计划的基于角色的访问控制 (RBAC)，以更精细地管理权限。该平台现在还支持通过命名镜像在应用程序之间共享镜像，并为工作区限制提供…