一位用户正在寻求关于如何将经过波兰法律数据持续预训练 (CPT) 的 Qwen9B 模型转变为能够进行推理和函数调用的功能性聊天助手。用户已完成三个 CPT 阶段,重点关注法律评论、立法和法院判决,并拥有各种其他数据源,包括问答论坛、学习材料和现有的 harness 对话。主要问题围绕最佳后续步骤,特别是是继续 CPT 还是转向监督微调 (SFT),以及如何最好地利用可用数据进行推理和工具使用,同时考虑 SFT 和强化学习 (RL) 的作用。 AI
影响 关于领域特定 LLM 的微调和数据利用的指导。
排序理由 用户生成的问题,寻求关于模型开发的技朧建议。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →