在 r/LocalLLaMA 子版块的用户正在讨论 GLM 5.2 的性能和能力。一位用户正在收集关于推理速度的数据，并要求其他人分享他们的每秒 token 率、推理引擎和硬件配置。另一位用户对 GLM 5.2 留下了非常积极的印象，强调了它在一个基于 RAG 的圣经学者代理中跨越圣经文本建立深度联系的能力，提供了其他模型未能提供的见解。 AI
影响 GLM 5.2 对寻求在本地 LLM 设置中获得更深层上下文理解和高效推理的用户来说前景广阔。
排序理由 关于特定模型发布的用户讨论和性能报告。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I was wondering how fast GLM5.2 (Nvidia’s 460GB nvfp4 checkpoint) is running on your rigs. I have it running at ~1tok/s in the simulation harness. The data extrapolates to 75tok/s on the real Cuda MGPU machine. So I would like to collect data fro…
<!-- SC_OFF --><div class="md"><p>I'm probably late to the party when it comes to reviewing GLM 5.2, but I've been using it recently and I'm impressed.</p> <p>My use case:</p> <p>I have a Bible Scholar agent that I use to study Scripture. It uses RAG with the Berean Standard Bibl…