HF Jobs
PulseAugur coverage of HF Jobs — every cluster mentioning HF Jobs across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Hugging Face 启用跨作业的高效 LoRA 适配器训练
Hugging Face 更新了其 AsyncGRPOTrainer，现已支持 LoRA 适配器，可实现更高效的模型训练和同步。这使得在训练和推理作业之间只需传输小型 LoRA 适配器，而非完整的模型权重。此新功能利用 Hugging Face Jobs 和 Storage Buckets，允许训练和推理在不同机器上运行，无需直接网络通信，从而显著缩短训练时间。
-
Hugging Face 指南详述 vLLM 部署和 PyTorch 注意力剖析
Hugging Face 发布了关于两个不同 AI 开发主题的指南。第一个指南详细介绍了如何使用 HF Jobs 通过一条命令运行 vLLM 服务器，从而简化大型语言模型的部署。第二个指南是关于 PyTorch 剖析系列文章的第三部分，重点关注注意力机制在性能分析中的关键作用。
-
IBM发布Granite 4.0 3B Vision，Hugging Face分享vLLM和PyTorch工具
IBM发布了Granite 4.0 3B Vision，这是一款专为企业文档设计的紧凑型多模态智能模型。此次发布是Hugging Face上共享的更广泛进展的一部分，包括新工具和研究。其他相关内容包括关于使用HF Jobs运行vLLM服务器的指南以及对使用PyTorch进行性能分析的深入探讨，重点关注注意力机制。
-
Hugging Face 博客系列涵盖 vLLM、PyTorch 性能分析和 AI 导师
Hugging Face 正在发布一系列涵盖各种 AI 主题的博客文章。这些文章包括关于使用 HF Jobs 运行 vLLM 服务器的说明、PyTorch 中注意力机制性能分析指南，以及对 AI 导师在何时进行干预（TutorMoments）的能力的探讨。
-
Hugging Face 详细介绍 PyTorch 性能分析和 vLLM 部署
Hugging Face 发布了一系列博文，详细介绍了 PyTorch 中的高级性能分析技术。这些文章涵盖了优化神经网络组件（如 nn.Linear 和融合 MLP）以及关注注意力机制以进行性能分析。此外，其中一篇文章演示了如何使用 HF Jobs 运行 vLLM 服务器以实现高效部署。
-
Hugging Face 通过 HF Jobs 上的一条命令简化 LLM 部署
Hugging Face 推出了一项新功能，允许用户通过一条命令在其 HF Jobs 基础设施上部署 vLLM 服务器。这简化了为模型测试、评估或批量生成等任务设置私有、OpenAI 兼容端点的过程。该服务仅对作业积极运行的时间收费，并通过指定张量并行性来支持各种 GPU 类型和更大的模型。