新方法提升AI计算张量核的错误检测能力

研究人员开发了一种新的方法来校准张量核中的混合精度容差，张量核对于机器学习计算至关重要。这种面向算子的方法分析了云GPU运行中的逐元素误差分布，以建立更严格、有实证依据的绝对容差。当应用于LLM风格的错误变体时，该方法将错误检测召回率显著提高了9个百分点以上，识别出200多个额外错误。 AI

影响 通过提高张量核正确性测试的准确性，提升了AI模型训练和推理的可靠性。

排序理由 该条目是一篇学术论文，详细介绍了一种校准张量核的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• alphaXiv
• arXiv
• attention_triton
• CatalyzeX Code Finder for Papers
• Connected Papers
• CORE Recommender
• DagsHub
• Gotit.pub
• gpuemu
• half-precision floating-point format
• Hugging Face
• IArxiv Recommender
• Influence Flower
• Litmaps
• ScienceCast
• scite Smart Citations

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →