AI Toolkit 已引入支持使用 INT4 和 INT8 转换进行模型训练的功能，这通常用于推理。用户正在询问此新训练功能的有效性以及潜在的质量下降问题。 AI
影响 此次更新可能为 AI 模型提供更高效的训练选项，有望降低计算需求，但其对模型质量的影响仍在调查中。
排序理由 该集群讨论了 AI 模型训练软件工具包中的一项新功能，这是一个工具相关的更新，而不是核心 AI 发布或研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
AI Toolkit 增加 INT4/INT8 训练支持，用户质疑质量
报道来源 [1]
-
AI Toolkit added the option to train with INT4 and INT8 conversion models. Is this useful for training? Does the quality drop significantly? Has anyone tried it?
<!-- SC_OFF --><div class="md"><p>Achei estranho porque normalmente esse tipo de modelo é usado para inferência, não para treinamento.</p> <p>***int4 and int8 CONVROT</p> </div><!-- SC_ON -->   submitted by   <a href="https://www.reddit.com/user/More_Bid_2197"> /u/More_Bi…