Astrid，一个AI系统，已成功部署在Radxa Dragon Q6A板上，原生运行于Ubuntu ARM64。目前的设置包括llama.cpp API、Piper TTS和Astra（一个终端界面）。虽然NPU（神经网络处理单元）尚未启用，导致推理基于CPU进行，但一旦NPU支持成熟，预计将有显著的性能提升。 AI
影响 展示了在边缘设备上运行AI模型日益增长的能力。
排序理由 在特定硬件上部署AI系统。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Astrid ya funciona sobre una Radxa Dragon Q6A. 🚀 En la placa ya tengo funcionando: API llama.cpp Piper TTS Astra (interfaz de terminal) Todo ejecutándose de forma nativa sobre Ubuntu ARM64. La NPU todavía no he conseguido hacerla funcionar, así que la inferencia sigue realizándos…