通过开源的Garlic LLM项目,越狱版PlayStation 4现在可以离线运行90亿参数的AI模型Qwen3.5-9B。这使得该主机2013年发布的GPU能够直接处理该模型,该模型已通过4位和3位权重优化,以适应主机8GB内存。该系统在文本生成方面速度可达每秒43个token,并支持语音对话和听写。 AI
影响 展示了在旧的、消费级硬件上运行复杂AI模型的潜力,可能扩大其可及性。
排序理由 这是一个第三方项目,使用消费级设备运行AI模型,而非来自前沿实验室的直接发布。
- Alibaba
- Chatterbox
- Garlic LLM
- GoldHEN
- Hugging Face
- Leonardo Alegría
- LLVM
- Nvidia
- Parakeet TDT 0.6B v3
- PlayStation 4
- PS5LM
- Qwen3.5-9B
- Vulkan
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →