Star
THE LIBRARY

把好奇,变成理解。

从你想弄懂的问题出发。45个深入主题,把公式推导、实现代码和结构图放在同一条阅读路径里。

45 个主题每个主题,都是一条深入理解的路径
模型网络

Transformer与自回归生成

推导缩放方差与因果mask;证明拆头还原的索引关系

3 个知识点公式 · 代码 · 图解
模型网络

MHA与MQA及GQA

计算Q到KV组映射;核算缓存与得分矩阵的不同缩放

3 个知识点公式 · 代码 · 图解
模型网络

位置编码与RoPE

证明相对旋转与范数保持;检查配对布局和投影置换

3 个知识点公式 · 代码 · 图解
模型网络

前馈网络与归一化

推导门控参数预算;区分归一化统计并计算雅可比

3 个知识点公式 · 代码 · 图解
训练

预训练目标与数据

定位目标错位和mask;计算CE梯度与有效token加权

3 个知识点公式 · 代码 · 图解
训练

监督微调与LoRA

核验模板mask和监督目标;推导LoRA参数梯度

3 个知识点公式 · 代码 · 图解
训练

偏好学习与DPO

推导KL重参数化;核算DPO稳定损失和梯度

3 个知识点公式 · 代码 · 图解
训练

策略优化与GRPO

计算组优势及缺失奖励边界;推导裁剪梯度与old冻结作用

3 个知识点公式 · 代码 · 图解
推理

Prefill与Decode

分解请求时间线;计算TTFT和逐token延迟

3 个知识点公式 · 代码 · 图解
Harness

Harness任务循环

画出可恢复状态机;区分模型与宿主责任

3 个知识点公式 · 代码 · 图解
Harness

Agent记忆与保鲜

定义记忆写入与失效条件;区分个人偏好和公共事实

3 个知识点公式 · 代码 · 图解
Harness

工具协议与MCP及Skill

区分工具Schema与任务方法;设计协议错误处理

3 个知识点公式 · 代码 · 图解
知识库

RAG与引用回答

拆分检索和回答误差;建立可回查引用

3 个知识点公式 · 代码 · 图解
知识库

来源接入与版本管理

保存来源身份和读取范围;设计版本更正传播

3 个知识点公式 · 代码 · 图解
知识库

混合检索与重排

识别不同召回器的优劣;理解排序融合

3 个知识点公式 · 代码 · 图解
知识库

GraphRAG与LLMWiki

区分编纂与检索;建立类型化关系

3 个知识点公式 · 代码 · 图解
业务Agent

业务Agent任务闭环

把用户目标转换成终态契约;区分过程和结果

3 个知识点公式 · 代码 · 图解
业务Agent

GUI定位与执行

统一截图与坐标空间;区分定位和执行

3 个知识点公式 · 代码 · 图解
业务Agent

AI代码开发与反馈

按契约形成补丁;区分测试缺口与修复

3 个知识点公式 · 代码 · 图解
Benchmark

评测协议与可复现性

能把模型、数据、提示、评分与预算写成明确的协议对象,并解释指纹能证明什么。;能识别开发集和报告集之间的显式重叠,区分ID检查与污染检测。

3 个知识点公式 · 代码 · 图解
Benchmark

评测指标与统计推断

能根据目标分布选择micro或macro,并从逐题记录还原分母。;能推导并计算Wilson比例区间,解释适用假设与边界情形。

3 个知识点公式 · 代码 · 图解
Benchmark

数据污染与评测集治理

能定义并解释文本规范化规则,区分字节相同、规范化相同与语义相同。;能手算n-gram Jaccard并说明阈值的误报和漏报来源。

3 个知识点公式 · 代码 · 图解
Benchmark

通用能力基准与选型

能从对数似然构造选择题预测,解释长度归一化可能改变排序。;能计算不同选项数量下的均匀随机基线,并说清基线调整的局限。

3 个知识点公式 · 代码 · 图解
Benchmark

推理与代码生成评测

能为数值答案定义明确的等价与未解析状态,避免用任意文本清洗代替判定。;能推导HumanEval常用pass@k估计,并区分样本池组合概率与单次成功率。

3 个知识点公式 · 代码 · 图解
Benchmark

Agent任务基准与执行评估

构造包含有效运行、目标和回归的验收判据;区分终态整题分与条件满足分

3 个知识点公式 · 代码 · 图解
Benchmark

RAG检索与回答评测

分开评估检索与回答;手算检索指标

3 个知识点公式 · 代码 · 图解
Benchmark

模型裁判与人工校准

还原成对顺序交换中的身份并报告解析覆盖率;从混淆矩阵计算人工一致率与kappa

3 个知识点公式 · 代码 · 图解
Benchmark

推理系统性能基准

定义系统负载与计时边界;比较质量约束下的吞吐

3 个知识点公式 · 代码 · 图解
Benchmark

稳健性与工具安全评测

审计正常效用、安全效用与ASR的不同分母;区分模型行为、运行时校验和宿主权限隔离

3 个知识点公式 · 代码 · 图解
业务Agent

OpenHands事件流与运行时

区分Canvas、SDK与托管服务的职责;推演事件分支和模型消息投影

3 个知识点公式 · 代码 · 图解
业务Agent

SWEAgent与智能体计算机接口

解释ACI怎样改变观察与编辑反馈;推演编辑失败后的纠错与轨迹状态

3 个知识点公式 · 代码 · 图解
业务Agent

Aider仓库地图与编辑协议

推导RepoMap图排序与token预算选择;解释SEARCH/REPLACE匹配和失败反馈

3 个知识点公式 · 代码 · 图解
业务Agent

MobileAgent多智能体协作

追踪视觉感知与像素坐标;区分进度事实历史的信息流

3 个知识点公式 · 代码 · 图解
业务Agent

AppAgent探索与技能学习

追踪元素UID与临时标签;解释探索文档的产生与更新

3 个知识点公式 · 代码 · 图解
业务Agent

UITARS感知与动作执行

区分模型SDK与桌面宿主职责;追踪动作解析及坐标字段

3 个知识点公式 · 代码 · 图解
业务Agent

CodexCLI架构与执行

区分CLI入口、执行前端与核心运行层;追踪模型工具调用到执行策略

3 个知识点公式 · 代码 · 图解
业务Agent

ClaudeCode工作流与扩展边界

区分产品说明、公开SDK与未公开实现;解释回调控制协议与进程边界

3 个知识点公式 · 代码 · 图解
Harness

LangGraph状态图与持久化

解释超步写入与状态归并;按线程和检查点恢复任务写入

3 个知识点公式 · 代码 · 图解
Harness

AutoGen对话团队与终止

追踪轮询团队的调度与消息流;区分状态化终止条件及其组合

3 个知识点公式 · 代码 · 图解
试试 Transformer、RAG、Codex 或 KV 缓存