01 自编码器与扩散模型
从确定性自编码器的表示瓶颈出发，推导 VAE 的证据下界与重参数化技巧，再解释扩散模型的前向加噪、反向去噪、得分匹配和条件引导。
02 潜变量分析：离散潜变量分析
从 K-means 的硬聚类出发，建立混合模型的似然与离散隐变量，推导 EM 算法、高斯混合模型和混合伯努利分布，并说明参数先验与证据下界的关系。
03 概率采样：能量模型与郎之万采样
从能量函数与配分函数出发，推导能量模型的最大似然梯度，说明无偏蒙特卡洛估计成立的条件，并用郎之万动力学解释如何在未知归一化常数时近似采样。
04 概率采样：基本采样与马尔可夫链—蒙特卡洛采样
围绕期望的蒙特卡洛估计，解释基本采样、拒绝采样和重要性采样，并从平稳分布出发推导 Metropolis–Hastings、Gibbs 与祖先采样的条件和局限。
05 泛化理论：归纳偏置与正则化机制
从有限样本对应的逆问题出发，解释归纳偏置、等变性与无免费午餐定理，并用权重衰减、早停、参数共享、残差连接、Dropout 和双重下降说明模型如何选择训练集之外的解。
06 线性网络：分类网络与判别函数
从仿射判别函数和贝叶斯风险出发，推导高斯生成式分类器、逻辑回归与 Softmax 分类器，说明两类学习方法为何都能得到线性决策边界。
07 线性网络：回归网络与似然估计
从固定基函数与高斯似然出发，推导最小二乘的投影几何，说明平方损失下的最优回归决策，并拆解预测误差中的偏差、方差与噪声。
08 统计学习：结构化分布与序列模型
从概率图模型的分解出发，解释条件独立、d 分离、朴素贝叶斯与马尔可夫毯，再用马尔可夫链和隐马尔可夫模型说明序列依赖、潜变量与动态规划推断。
09 统计学习：标准分布与信息论
从离散、连续与周期变量的常用分布出发，串起矩、贝叶斯推断、极大似然、充分统计量、指数族、熵与 KL 散度，并说明它们如何进入决策树和 Fisher 判别。
10 统计学习：模型、概率与贝叶斯推断
从一个预测问题出发，区分模型、策略和算法，理解随机变量的期望、方差与协方差，并用贝叶斯公式连接先验、似然、后验和正则化。
Topic / 10
机器学习
该主题下共 10 篇札记。