共同基础为七模块提供数学、编程和实验语言。先完成下面的小例子，再进入主题；不需要等全部理论学完才开始，但遇到缺口应回到对应基础。
基础能力清单
| 基础 | 必须理解 | 最小产物 | 学习入口 |
|---|---|---|---|
| 张量与线性代数 | batch、序列、特征、矩阵乘法与内积 | 注意力shape表 | D2L、PyTorch基础 |
| 概率与统计 | 条件概率、期望、方差、抽样和独立性 | 一个准确率与抽样解释 | D2L、Benchmark统计 |
| 微积分与自动微分 | 链式法则、梯度、参数更新 | 两层标量计算图 | PyTorch Autograd教程入口 |
| 损失与优化 | 交叉熵、学习率、梯度累计、训练/验证分离 | 一次手算损失和更新 | HF LLM Course、CS336 |
| 编程与数据 | 类型、索引、mask、批处理、随机性 | 有明确输入输出的小程序设计 | PyTorch完整工作流 |
| 系统与实验 | 存储层次、计算量、时间边界、控制变量 | 实验变量与结果表 | CMU LLM Systems |
三个手算例子
矩阵例子：A=[[1,2],[3,4]]、x=[1,0]，Ax=[1,3]。把[B,T,d]乘以[d,k]会得到[B,T,k]，不能把最后一维和序列长度混用。
概率例子：二分类真实标签为第一类，预测概率0.5时负对数损失为ln2，预测概率0.25时为ln4。它衡量对真实标签分配的概率；准确率还取决于判定方式，两者不等价。
梯度例子：y=(wx)²，x=2、w=3时，y=36，dy/dw=2wx²=24。自动微分计算这种依赖关系，但学习率、梯度清零和更新时机仍需程序正确组织。
这些是教学推导，未运行训练实验。数学与实践组织参考D2L和PyTorch基础教程。
自测与检查
解释为什么给所有logits加同一个常数不改变softmax；解释为什么相邻文档片段随机分入训练与测试可能泄漏；说明梯度累计在什么条件下接近更大batch，哪些状态或随机操作可能使其不同。
答案要点：softmax共同指数因子约去；相邻片段可能共享信息；梯度累计需要匹配损失归一化和更新频率，而状态、随机性或优化步骤差异仍可能改变结果。对不确定条件应设计对照，不直接宣称等价。
下一步
进入Transformer、预训练和评测协议。按系统学习资源指南选择课程，使用能力地图确定本轮应提交的解释、推导或实践设计。