Heretic的创建者（Heretic是一个用于“解除审查”大型语言模型的工具）已发出警告，反对将“heretic”模型用作其他AI系统（如H3等图像和视频生成模型）的文本编码器。创建者解释说，Heretic通过修改有害输入的内部表示来混淆LLM使其合规，但这个过程并不会创建更准确或“原始”的表示。因此，将这些修改后的模型用作扩散模型的文本编码器并不会消除输出中的审查，甚至可能降低性能或引入伪影。 AI
影响 像Heretic这样的LLM修改工具的误用可能导致下游AI系统的性能下降和意外输出。
排序理由 该条目是来自一个工具创建者的观点文章，警告其被滥用。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
