graph.cuh

llama.cpp b12257 版本发布优化 CUDA 性能

llama.cpp 项目发布了 b12257 版本，其中包括对 CUDA 的优化。此次更新将特定的 CUDA 图和并发流状态组件从通用头文件移至专用的图头文件。此更改旨在通过防止 CUDA 翻译单元不必要的重新编译来缩短构建时间。此外，该版本还引入了用于流上下文管理的 unique_ptr，并整合了 CUDA 内核函数的定义以提高效率。