一位用户在Nvidia RTX 5070 Ti上测试了Qwen3.8-27B模型,在其任务上取得了91.1%的成功率,上下文窗口为131K。测试是在本地设置和俄罗斯云基础设施上进行的,模型在单线程中表现出68.3 tokens/s的速度。尽管普遍认为131K的上下文不足且IQ3版本能力较弱,但用户发现它对其特定用例有效。 AI
影响 展示了Qwen3.8-27B模型在消费级硬件上具有大上下文窗口的能力。
排序理由 用户在特定硬件和上下文长度上对现有模型的基准测试。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →