实体
Marc Brooker
Marc Brooker
PulseAugur coverage of Marc Brooker — every cluster mentioning Marc Brooker across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
Modal 推出工具以比较无服务器与预留 GPU 成本
Modal 推出了一款交互式工具，帮助团队估算无服务器和预留 GPU 的相关成本，尤其适用于 AI 应用。该工具强调，当 GPU 的峰值需求远超平均使用量时（例如推理、训练和代理开发等工作负载的常见情况），无服务器 GPU 可能比预留更具成本效益。此举旨在弥合财务和工程部门在 GPU 经济性方面的理解差距。
-
Modal 在几秒钟内实现了用于 AI 推理的无服务器 GPU
Modal 开发了一个系统，实现了真正的无服务器 GPU 用于 AI 推理，解决了快速扩展资源以满足可变需求这一挑战。他们的方法包括维护空闲 GPU 的云缓冲区、用于延迟容器镜像服务的自定义文件系统以及 CPU 和 GPU 进程的高效检查点/恢复机制。这项历时五年的工程努力，将 AI 推理副本的扩展时间从几十分钟缩短到几秒钟，旨在最大限度地提高 GPU 分配利用率。
-
AI重塑软件开发，将焦点从代码转向想象力
超过3000名软件开发人员参加了由DeepLearning.AI组织的AI Dev 26 x SF会议，讨论AI在软件开发中不断演变的角色。发言者强调，AI正在将瓶颈从编码转移到想象力，并加速行业转型。虽然一些人将AI视为提高速度和效率的工具，但另一些人则强调降低缺陷率和保持代码正确性高标准的重要性，并提到了Hydro、Cedar和Strata等项目。