AMD Ryzen Threadripper PRO 3945WX

用户寻求帮助在 llama.cpp 中为 DeepSeek V4 Flash 0731 启用推测解码

Reddit r/LocalLLaMA 版块的一名用户正在寻求帮助，以便在 llama.cpp 框架内为 DeepSeek V4 Flash 0731 模型启用推测解码。用户提供了关于其设置的详细信息，包括使用的特定 llama.cpp 构建版本、模型版本和命令行参数。尽管遵循了文档，但在尝试加载启用了推测解码的模型时，他们遇到了初始化错误。