PulseAugur
中
实时 22:50:16
English(EN) The solar powered LLM server seems to be happy with Qwen3.6-35B-A3B-UD-Q4_K_M. It gets around 63 tokens per second and costs me $0.00 per token. And the server

自托管服务器使用Qwen3.6 LLM在经济型硬件上实现每秒63个token

作者 PulseAugur 编辑部 · [1 个来源] ·

一位用户报告称，在太阳能供电的自托管服务器上运行Qwen3.6-35B-A3B-UD-Q4_K_M大型语言模型取得了积极成果。该设置利用了配备三块2080 Ti GPU的旧DDR3硬件，实现了约每秒63个token的速度，且无每个token的成本。这展示了一种经济高效且高效的本地运行先进AI模型的方法。 AI

影响 展示了在旧硬件上具有成本效益的本地LLM部署。

排序理由 用户关于在自托管硬件上运行LLM的报告。

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

自托管服务器使用Qwen3.6 LLM在经济型硬件上实现每秒63个token

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
用户关于在自托管硬件上运行LLM的报告。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
85 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    太阳能驱动的大语言模型服务器似乎对 Qwen3.6-35B-A3B-UD-Q4_K_M 感到满意。它的速度约为每秒 63 个 token，每 token 的成本为 0.00 美元。而服务器

    The solar powered LLM server seems to be happy with Qwen3.6-35B-A3B-UD-Q4_K_M. It gets around 63 tokens per second and costs me $0.00 per token. And the server itself is an ancient DDR3 platform with 3 2080 ti GPUs in it! # solarai # decentralized # smarthome # homeassistant # he…

相关实体

相关话题