10.29从零手搓 · M3 手搓 LLM 笔记 12:第一次看到自己手搓的 LLM 说人话 KV cache 是推理优化:历史 K/V 存下来复用,每步只算新 token。三层分工、首轮全量后续单步、位置偏移与位置溢出三个坑,验收输出一致且提速 40%。