TensorSharp
PulseAugur coverage of TensorSharp — every cluster mentioning TensorSharp across labs, papers, and developer communities, ranked by signal.
- 2026-07-10 product_launch TensorSharp has added support for image editing and generation using Qwen Image Edit 2511 models. 来源
1 天有情绪数据
-
Qwen3.8 Flash Next 模型针对多样化硬件上的本地推理进行了优化
Qwen3.8 Flash Next 模型正在针对各种硬件配置上的本地推理进行优化。一位用户在使用 NInfer 的一个分支的 RTX 6000 上实现了 400 tokens/秒的性能，另一位用户通过实现流式和并行读取，展示了在带有 SSD 的 Mac Mini 上运行该模型。另一份指南详细介绍了如何在具有大量 CPU RAM 卸载的消费级 RTX 5090 上运行 125B 参数模型，还有一位用户通过采用量化和统一内存调度方法，在…
-
新的 C#/.NET 引擎 TensorSharp 性能媲美 llama.cpp
TensorSharp 是一款新的 GGUF 模型推理引擎，作为纯 C#/.NET 替代品出现，可与 llama.cpp 等成熟的 C/C++ 引擎相媲美。由 zhongkaifu 开发，它提供了广泛的模型和后端支持，包括 CUDA、Metal 和 Vulkan，以及分页 KV 缓存和连续批处理等功能。基准测试表明，TensorSharp 的性能与 llama.cpp 相当，在某些场景下 TensorSharp 速度更快，而在其他场景…
-
DeepSeek V4 Flash 0731 在 TensorSharp 上使用 DSpark 实现了显著加速
一项新的基准测试结果突显了 DeepSeek V4 Flash 0731 在使用 DSpark 和 TensorSharp 推理引擎时的性能提升。在包括短输出和长输出、后续问题以及文档分析在内的各种生成任务中，与未使用 DSpark 的基线相比，DSpark 在令牌处理速度方面始终提高了 1.5 倍到 2 倍以上。TensorSharp 引擎支持本地 GGUF LLM，并具有连续批处理和推测解码等功能，被呈现为一个运行这些模型的开源解决方案。
-
TensorSharp LLM 推理引擎与 llama.cpp 进行基准测试
TensorSharp，一款新的开源 LLM 推理引擎已发布，并提供了与 llama.cpp 的性能基准对比。该引擎支持 Gemma4 和 Qwen3.6 等多种模型，并兼容 OpenAI 和 Ollama 接口。基准测试表明，在 CUDA 和 Vulkan 等不同后端上，TensorSharp 的性能通常与 llama.cpp 相当或略有超出，尤其是在解码和预填充吞吐量方面。
-
TensorSharp 增加 Qwen Image Edit 2511 支持，基准测试速度快于 stable-diffusion.cpp
TensorSharp，一个开源的 LLM 推理引擎，现在支持使用带有 LoRA 的 Qwen Image Edit 2511 模型进行图像编辑和生成。基准测试表明，TensorSharp 在总预热时间和每步处理速度等几个关键领域优于 stable-diffusion.cpp，尽管 stable-diffusion.cpp 在文本编码方面更快。TensorSharp 旨在利用 CUDA、Metal 和 Vulkan 的 GPU 功能，…
-
TensorSharp 增加 Vulkan 后端以进行 LLM 推理，并与 llama.cpp 进行基准测试
TensorSharp，一个开源 LLM 推理引擎，发布了其 GGML Vulkan 后端的初始版本，旨在提高 GPU 上的性能。该更新已在 Nvidia 和 Intel GPU 上成功测试，开发者正在寻求 AMD GPU 用户反馈。将 TensorSharp 的 Vulkan 后端与 llama.cpp 进行的基准测试显示结果不一，TensorSharp 在某些场景下更快，而在其他场景下（尤其是首次标记时间）则较慢。