Русский(RU) А нормально там пацаны llama.cpp чинят. В прошлый раз обновлял контейнер в июле, обновил сейчас - на том же самом железе, той же самой модели с тем же стестом п

llama.cpp 性能提升，用户报告速度加快

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-07 23:09

llama.cpp 项目的性能有所提升，用户报告在相同的硬件和模型上速度显著加快。一位用户在更新容器后表示速度提升了 2 T/s，在 3060 显卡上使用 Qwen3.8-27B-GSQ-RCO-IQ2_XS-mtp 模型时达到了约 30 T/s。另一位用户报告称，使用 Qwen3.8-27B-UD-Q4_K_XL 模型时，他的 3090 显卡持续超过 50 T/s。 AI

影响 llama.cpp 的性能提升可能导致更高效的本地 AI 模型部署和实验。

排序理由该项目讨论了开源推理引擎的性能改进，属于 AI 基础设施的研究与开发领域。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — mastodon.social 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 10 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该项目讨论了开源推理引擎的性能改进，属于 AI 基础设施的研究与开发领域。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

Mastodon — mastodon.social TIER_1 Русский(RU) · [email protected] · 2026-10-07 23:09

他们正在修复 llama.cpp。上次我更新容器是在七月，这次更新了——在相同的硬件上，使用相同的模型和相同的测试。

А нормально там пацаны llama.cpp чинят. В прошлый раз обновлял контейнер в июле, обновил сейчас - на том же самом железе, той же самой модели с тем же стестом прирост 2т/с. С учетом того что это 3060 и она в принципе выдавала около 30т/с на Qwen3.8-27B-GSQ-RCO-IQ2_XS-mtp - весьма…

本文如何被排名

报道来源 [1]

他们正在修复 llama.cpp。上次我更新容器是在七月，这次更新了——在相同的硬件上，使用相同的模型和相同的测试。

相关实体

相关话题