把大模型，
一点点看明白。

看完试着解释：“训练”和“聊天”有什么不同？

记住：训练根据数据和目标调整参数；常规推理使用已有参数计算输出。聊天中出现新信息，不代表权重实时更新。

每次只追一个主题：词元与向量 → Transformer 块 → 输出概率。遇到新主题就暂停，下次接着看，不必一次记住所有矩阵。

记住：token（词元）可能是字、词的一部分、标点等，不总是一个完整单词。向量是数字表示，不是字典释义。

第三方中文界面与教学解释；原项目来自 Georgia Tech Polo Club。底层仍是主要面向英文的 GPT-2 Small，演示推理，不会训练模型。手机可先看教学解释，复杂图示建议横屏或电脑。

试用英文示例，观察 token、注意力与概率。模型下载较慢时，可切换工具内置示例。不要上传私人内容。

预训练学习广泛的统计规律和能力。迁移学习复用已学参数，再适配新任务，通常比从零训练省资源。并非所有模型都采用同一种预训练目标。

中文讲解。每次选看 10–15 分钟即可，这不是全片时长。先找“预测”和“参数更新”的关系。

SFT（监督微调）：给出“问题 → 好答案”的样本，训练模型更可能生成示范答案。

RLHF（基于人类反馈的强化学习）：经典流程是人类比较候选答案，训练奖励模型，再用强化学习优化语言模型，通常还限制它偏离参考模型太远。

奖励只是偏好的近似，不等于事实正确率。后训练也有其他方法，所有模型不必走完全相同的流程。

第 7 讲：名师指点，发挥潜力 ↗

第 8 讲：参与实战，打磨技巧（RLHF） ↗

建议每次只看 10–15 分钟，再用自己的话复述一个概念；这不是视频总时长。

SFT 说的是“用什么数据、按什么目标学”；LoRA 说的是“用什么参数化方式更新”。你可以做全参数 SFT，也可以用 LoRA 做 SFT。

低秩意味着把一个较大的更新矩阵写成两个较小矩阵的乘积。训练参数少了，但基础模型仍要加载，也要计算激活。