AMD Lemonade LLM 服务器利用 NPU 加速 Ryzen AI 芯片

AMD 发布了 Lemonade v10.6，这是一个开源 LLM 服务器，旨在利用其 Ryzen AI 300 和 400 系列芯片中 NPU 的加速功能。该服务器提供兼容 OpenAI 的 API，并集成了图像生成、语音转文本和文本转语音等功能。虽然 Lemonade 通过利用 NPU 进行提示处理和 iGPU 进行令牌生成，在兼容的 AMD 硬件上提供了优化性能，但对于拥有 NVIDIA GPU 等其他硬件的用户来说，由于 Ollama 拥有更广泛的生态系统支持，因此 Ollama 可能是更通用的选择。 AI

影响 优化特定 AMD 硬件上的 LLM 推理，可能提高兼容芯片用户的本地 AI 性能。

排序理由 这是针对特定硬件平台的产品发布，而非前沿模型发布。

在 dev.to — LLM tag 阅读 →

• NPU
• AMD
• Hugging Face
• Lemonade
• LLM
• NVIDIA
• Ollama
• OpenAI
• Ryzen AI 300
• Ryzen AI 400
• Stable Diffusion
• Whisper

• 产品
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →