01 统计学习：模型、概率与贝叶斯推断
从一个预测问题出发，区分模型、策略和算法，理解随机变量的期望、方差与协方差，并用贝叶斯公式连接先验、似然、后验和正则化。
02 统计学习：标准分布与信息论
从离散、连续与周期变量的常用分布出发，串起矩、贝叶斯推断、极大似然、充分统计量、指数族、熵与 KL 散度，并说明它们如何进入决策树和 Fisher 判别。
03 统计学习：结构化分布与序列模型
从概率图模型的分解出发，解释条件独立、d 分离、朴素贝叶斯与马尔可夫毯，再用马尔可夫链和隐马尔可夫模型说明序列依赖、潜变量与动态规划推断。
04 线性网络：回归网络与似然估计
从固定基函数与高斯似然出发，推导最小二乘的投影几何，说明平方损失下的最优回归决策，并拆解预测误差中的偏差、方差与噪声。
05 线性网络：分类网络与判别函数
从仿射判别函数和贝叶斯风险出发，推导高斯生成式分类器、逻辑回归与 Softmax 分类器，说明两类学习方法为何都能得到线性决策边界。
06 深度网络：梯度下降与优化器
从一次参数更新出发，解释随机梯度下降、动量、自适应学习率、Adam 的偏差修正与 AdamW 的解耦权重衰减。
07 深度网络：反向传播与自动微分
从链式法则出发推导反向传播，手写一个标量自动微分引擎并在双月牙数据上训练，再对照 PyTorch autograd 说明梯度是怎么被自动算出来的。
08 泛化理论：归纳偏置与正则化机制
从有限样本对应的逆问题出发，解释归纳偏置、等变性与无免费午餐定理，并用权重衰减、早停、参数共享、残差连接、Dropout 和双重下降说明模型如何选择训练集之外的解。
09 深度网络：残差连接与 ResNet
从深层网络的退化问题出发，推导残差学习与恒等捷径，解释 BasicBlock、Bottleneck 和 ResNet 的分层结构，并给出 PyTorch 教学实现。
10 深度网络：多层感知机与混合密度网络
从固定基函数的表达限制出发，解释非线性激活与万能近似定理，搭建多层感知机，并由回归、多分类损失延伸到迁移学习和混合密度网络。
11 深度网络：卷积神经网络
从互相关、卷积核、步幅、填充、通道与感受野出发，逐层推导卷积神经网络，并用 PyTorch 完整实现和训练 LeNet-5。
12 概率采样：基本采样与马尔可夫链—蒙特卡洛采样
围绕期望的蒙特卡洛估计，解释基本采样、拒绝采样和重要性采样，并从平稳分布出发推导 Metropolis–Hastings、Gibbs 与祖先采样的条件和局限。
13 概率采样：能量模型与郎之万采样
从能量函数与配分函数出发，推导能量模型的最大似然梯度，说明无偏蒙特卡洛估计成立的条件，并用郎之万动力学解释如何在未知归一化常数时近似采样。
14 潜变量分析：离散潜变量分析
从 K-means 的硬聚类出发，建立混合模型的似然与离散隐变量，推导 EM 算法、高斯混合模型和混合伯努利分布，并说明参数先验与证据下界的关系。
15 自编码器与扩散模型
从确定性自编码器的表示瓶颈出发，推导 VAE 的证据下界与重参数化技巧，再解释扩散模型的前向加噪、反向去噪、得分匹配和条件引导。
Series / 15
机器学习
按系列顺序阅读。