现代架构I0~I7

2026 2 篇

11 月 2

现代架构 · I4

手搓 LLM 笔记 26:I4 后训练收官

I4 收官:完成多轮 SFT、CoT-SFT、DPO 批量训练、LoRA / 全参对照、RLVR / GRPO 单组更新、同题规则胜率与真实 Web UI 回归。保留所有未超越原始模型、局部回退和最小实验边界。

现代架构 · I4

手搓 LLM 笔记 25:I4 DPO 偏好优化

DPO 起步实录:理解 chosen / rejected、序列 logprob、参考模型、score 与 loss,完成偏好数据、模板编码审计和单步更新。记录梯度裁剪对 Adam 整体缩放不敏感,以及 LR=1e-7 的温和更新;批量 DPO 训练尚未开始。