llama.cpp软件中一个影响Tesla P100 GPU的错误已被识别并修复。此问题导致GPU以降低的精度执行计算,从而导致语言模型任务的结果不准确。此修复涉及三行代码更改,可恢复预期的精度,并已合并到llama.cpp的turboquant v0.3.0版本中。虽然此错误专门影响P100 (sm_60)架构,但开发人员指出,较新的GPU和其他Pascal卡(如P40 (sm_61))不受影响。 AI
影响 通过llama.cpp运行语言模型的Tesla P100 GPU恢复了预期的精度。
排序理由 该集群描述了针对特定硬件型号的特定软件库中的错误修复,这是一项工具改进。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →