实体
Sky-T1
Sky-T1
PulseAugur coverage of Sky-T1 — every cluster mentioning Sky-T1 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI 模型蒸馏传递推理结构，而非核心能力
一项最新分析表明，将 Moonshot AI 的 Kimi 等 AI 模型蒸馏到 Qwen 等其他模型中，主要传递的是推理结构，而非核心能力。研究人员发现，即使是针对包含错误答案或随机数据的教师模型输出来进行微调，也会显著影响性能，这表明基础模型的架构比教师的智能更为关键。这一发现挑战了将强大模型蒸馏到较弱模型中就能使其达到相似水平的普遍看法，并强调了蒸馏痕迹的内容不如其结构形式重要。
-
基于思维链推理的本地大模型微调技术
研究人员详细介绍了一种使用思维链（CoT）方法在本地微调大型语言模型的方法。该技术称为CoT SFT，旨在通过训练模型生成中间思考步骤来提高其推理能力。该过程利用LoRA（低秩适配）进行高效微调，并展示了其在Qwen3和Sky-T1等模型上的应用。