从零手搓 · M4
手搓 LLM 笔记 13:SFT,从续写机到指令跟随
355M 全参 SFT 冒烟与 base/SFT 行为对照:base 全是 0 分,SFT 开始按模板回答。从续写机到指令跟随,M4 的核心证据。
355M 全参 SFT 冒烟与 base/SFT 行为对照:base 全是 0 分,SFT 开始按模板回答。从续写机到指令跟随,M4 的核心证据。
上一篇的 355M 模型交出 33.5 分和 58 个 0 分。这篇是它的对照组:同一份数据、同一个判官、同一个测试集,换成 Qwen2.5-1.5B base 再做一遍。结果底座把分数从 33.5 拉到 86.5,SFT 却几乎不提分——但它把「写小作文」改成了「直接回答」,也在超参贪心时弄丢了刚学会的知识。
第七章把 GPT-2 微调成一个能听指令的模型:不换头、不冻结、全参数。数据管道里的 +1 和 -100 两根针脚、CPU 和 MPS 的一百倍差距、DeepSeek 当评委给出的 34 分,和 57 个 0 分背后的能力肖像。