一种名为“abliteration”的新技术通过移除其权重中的特定拒绝方向来修改开放权重语言模型,使其能够在不重新训练的情况下响应更广泛的提示。Arditi 等人的研究详细介绍了这种方法,Maxime Labonne 进行了演示,该方法在代码层面改变了模型的行为,特别是影响了它们的“思考预算”。集成这些模型的开发人员需要注意,通过 abliteration 或无审查微调修改过的模型可以通过相同的 API 端点访问,但可能需要更高的 `max_tokens` 设置来适应它们在生成响应之前的内部处理。使用这些模型的成本主要由输入 token 驱动,更长的对话历史会显著增加费用。 AI
影响 使开发人员能够通过标准 API 集成限制较少的开放权重模型,从而可能扩展无审查 AI 的用例。
排序理由 该项目讨论了一种基于学术研究修改 LLMs 的新技术及其对开发人员的实际影响。[lever_c_demoted from research: ic=1 ai=1.0]
- Arditi et al
- arXiv 2406.11717
- .claude
- deepseek-v4-pro-uncensored
- General Language Model
- generative pre-trained transformer
- glm-5.3-abliterated
- Hugging Face
- Maxime Labonne
- OpenAI
- roleplay-uncensored
- SillyTavern
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →