Heretic 是一个命令行工具，旨在“去除审查”语言模型，使其对每个人都可用。它利用定向消融和基于 Optuna 的 TPE 优化来最大限度地减少拒绝响应，同时通过限制 KL 散度来保持原始模型的性能。该工具支持多种密集型、MoE 和多模态模型，并包含 bitsandbytes 量化和 PaCMAP 残差可视化等研究功能。 AI
影响 为研究人员和用户提供了一个工具，用于修改现有语言模型，以减少审查并增强可解释性。
排序理由 Heretic 是一个用于修改语言模型的命令行工具，而不是一个新的模型发布或基础研究论文。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
