实体 RustingStrata

RustingStrata

PulseAugur coverage of RustingStrata — every cluster mentioning RustingStrata across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_341341 · Nov 4 · 17:29

RustingStrata 推理引擎提升 12GB GPU 上 Qwen 模型性能

一款名为 RustingStrata 的全新推理引擎，完全用 Rust 编写，旨在高效地在消费级硬件上运行 Qwen 模型，包括显存仅为 12 GB 的 GPU。该引擎在启动时使用 NVRTC 进行 CUDA 内核编译，并支持 Vulkan 以实现更广泛的硬件兼容性，包括 AMD GPU。基准测试表明，RustingStrata 在推理速度方面显著优于原始 Strata 和 llama.cpp 等现有引擎，尤其是在运行 Qwen3.8…