模型网络
Transformer与自回归生成
推导缩放方差与因果mask；证明拆头还原的索引关系
3 个知识点公式 · 代码 · 图解
模型网络
理解 token 到智能的计算过程。从核心机制走向具体实现，用推导、代码和反例检验理解。
在这个模块，你将能够
解释token到logits的计算路径推导注意力、位置与参数预算设计小规模结构正确性实验区分结构、数值与内核性能变化
查看能力与实践成果 →模型网络
MHA与MQA及GQA
计算Q到KV组映射；核算缓存与得分矩阵的不同缩放
3 个知识点公式 · 代码 · 图解
模型网络
位置编码与RoPE
证明相对旋转与范数保持；检查配对布局和投影置换
3 个知识点公式 · 代码 · 图解
模型网络
前馈网络与归一化
推导门控参数预算；区分归一化统计并计算雅可比
3 个知识点公式 · 代码 · 图解
暂时没有匹配的主题
换个关键词，或探索其他知识模块。