Heretic
PulseAugur coverage of Heretic — every cluster mentioning Heretic across labs, papers, and developer communities, ranked by signal.
- 2026-05-25 product_launch Heretic tool gains attention for its ability to remove guardrails from AI models. 来源
1 天有情绪数据
-
瑞士最高法院评估 Heretic 工具以修复 LLM 过度对齐问题
瑞士联邦最高法院正在探索使用 'Heretic' 工具来缓解大型语言模型 (LLM) 的过度对齐问题。此项调查源于法院自身在使用 LLM 时遇到的合法请求被拒绝的挑战，这也是 r/LocalLLaMA 社区用户面临的普遍问题。一篇题为《衡量与缓解多语言刑事法院 LLM 的过度对齐》的研究论文对 Heretic 给予了积极评价，认为其有潜力解决这些对齐问题，尤其是在法律领域。
-
Gemma 4 12B Heretic模型生成单个HTML文件中的完整游戏
一位Reddit用户分享了使用Gemma 4 12B的“heretic”版本进行编码任务的经验。这个修改后的模型成功地在一个HTML文件中生成了一个完整、可玩的“Retro Cyberpunk Brick Breaker”游戏。该过程使用了超过45,000个token的巨大上下文窗口，用户报告称生成速度稳定在每秒约18个token。
-
新的 Apostate 工具可“清除”LLM 安全训练，可与 Heretic 相媲美
一款名为 Apostate 的新工具已被开发出来，用于“清除”大型语言模型中的安全训练。基准测试将其与 Heretic 和 Huihui 等现有工具进行了比较。虽然 Heretic 的表现略好，在参数改动极小的情况下实现了 100% 的拒绝移除成功率，但 Apostate 和 Huihui 也取得了 98% 的强劲表现。分析显示，这些工具在 Qwen 2.5 7B 模型中找到了不同的“拒绝方向”，表明安全训练并非只有一个失败点。
-
JetBrains 发布 Mellum2，Heretic 工具助力审查移除，NVIDIA 推出 Cosmos 3
JetBrains 发布了 Mellum2，一个拥有 120 亿参数的专家混合（MoE）模型，针对高效的本地 AI 推理进行了优化。与此同时，GitHub 上出现了一个名为 'Heretic' 的新工具，旨在自动移除开源语言模型的审查，使用户能够更好地控制模型的输出。NVIDIA 也推出了 Cosmos 3，一个专注于物理 AI 推理和行动的开源全能模型，旨在增强消费级硬件的多模态能力。
-
Heretic 工具通过 Abliteration 绕过 AI 安全机制
IT 安全研究人员已证明，使用名为“Heretic”的工具可以完全绕过公开可用 AI 模型的安全机制。这种称为“Abliteration”的技术专门针对并停用了负责拒绝有害请求的 AI 模型部分。这些发现突显了当前 AI 安全协议中的一个重大漏洞。
-
免费工具绕过 Meta 和 Google AI 模型的安全防护
一个名为 Heretic 的免费 GitHub 工具已证明能在几分钟内绕过 Meta 的 Llama 3.3 和 Google 的 Gemma 模型的安全防护。该工具适用于开源 AI 模型，据报道已被用于创建数千个可生成有害内容的修改版本，例如关于生物武器的说明。研究人员指出，这凸显了 AI 安全方面的一个重大挑战，因为这些模型的开源性质允许移除内置的限制。
-
Heretic 工具移除 Llama 3.3 安全护栏，下载量达 1300 万次
据报道，由 Philipp Emanuel Weidmann 创建的名为 Heretic 的工具可以在 10 分钟内移除 Meta 的 Llama 3.3 模型中的安全护栏。自发布以来，Heretic 已被用于创建超过 3500 个“已解除审查”的模型，下载量达 1300 万次。Weidmann 自称为数学家和工程师，旨在确保无限制模型保持可用。
-
Heretic 工具通过命令行自动去除语言模型审查
Heretic 是一个命令行工具，旨在“去除审查”语言模型，使其对每个人都可用。它利用定向消融和基于 Optuna 的 TPE 优化来最大限度地减少拒绝响应，同时通过限制 KL 散度来保持原始模型的性能。该工具支持多种密集型、MoE 和多模态模型，并包含 bitsandbytes 量化和 PaCMAP 残差可视化等研究功能。
-
Gemma 4 QAT模型引发关于性能和实用性的讨论
用户正在讨论Gemma 4 QAT（量化感知训练）模型的性能和实用性，特别是将其与标准量化进行比较。虽然一些用户报告称通用任务的速度和质量有所提高，但其他用户认为QAT模型是一种倒退，尤其是在工具调用或编码等特定用例方面。正在进行基准测试以量化差异，结果喜忧参半，表明QAT模型并不总是优于更高比特的标准量化，有时还会表现出意外行为。