一位用户通过实施选择性的Triton变通方法，成功地为AMD ROCm硬件优化了Krea2 Turbo模型。该变通方法允许INT8 ConvRot操作运行速度比FP8更快，在FP8基线基础上实现了18%的速度提升，并与之前的INT8回退方法相比实现了显著的6倍加速。该解决方案涉及仅通过Triton路由INT8线性操作，同时保持其他可能不稳定的路径禁用。 AI
影响 在AMD硬件上实现特定模型的更快推理速度，可能改善用户体验和可访问性。
排序理由 用户为特定硬件/软件栈开发的优化。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>I have been testing Krea2 Turbo in ComfyUI on AMD ROCm and finally got INT8 ConvRot running faster than FP8 on my machine.</p> <p>This is mainly interesting for AMD/ROCm users, because the INT8 ConvRot path can be awkward there: the safe fallback…