现代架构I0~I7

2026 1 篇

11 月 1

现代架构 · I4

手搓 LLM 笔记 25:I4 DPO 偏好优化

DPO 起步实录:理解 chosen / rejected、序列 logprob、参考模型、score 与 loss,完成偏好数据、模板编码审计和单步更新。记录梯度裁剪对 Adam 整体缩放不敏感,以及 LR=1e-7 的温和更新;批量 DPO 训练尚未开始。