MacBook Pro M3 Max

Redis 创始人为 Mac 构建 DeepSeek V4 专用推理引擎

Redis 的创始人 Salvatore Sanfilippo 开发了一个名为 ds4.c 的新的、高度优化的推理引擎，专门用于 DeepSeek V4 Flash 模型。该引擎旨在 Apple Silicon Mac 上高效运行，利用 Metal 进行 GPU 加速。它采用了非对称量化和将 KV 缓存卸载到磁盘等技术，以实现大型模型的本地执行，甚至支持 OpenAI 和 Anthropic API 兼容性，以便集成到代理中。