现代架构I0~I7

2026 1 篇

11 月 1

现代架构 · I4

手搓 LLM 笔记 23:I4 多轮对话 SFT

从 Assistant-only loss mask、Qwen 多轮模板和 128 条合成样本开始,完成全参数 SFT、独立行为评测与训练量干预。记录 v1 能力回退、v2 恢复,以及 loss 与行为表现不一致的真实证据。