研究人员开发了 SoftSkill,一种通过将技能压缩为紧凑、连续的上下文对象来使大型语言模型适应特定任务的新方法。该方法使用可训练的“软 delta”来精炼冻结的主干模型,其性能显著优于传统的基于 Markdown 的技能文件。SoftSkill 在 SearchQA、LiveMath 和 DocVQA 等基准测试中显示出显著的准确性提高,同时大大减少了技能编码所需的 token 数量。 AI
影响 该方法可以实现对冻结 LLM 更高效、更有效的任务适应,从而可能降低计算开销并提高在专业任务上的性能。
排序理由 该集群包含一篇详细介绍 LLM 适应新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →