封面
符号表
1.
机器学习基础
1.1.
高中数学回顾
1.2.
向量和矩阵
1.3.
另一个视角看矩阵
1.4.
从导数到偏导数
1.5.
概率论 [WIP]
1.6.
机器学习问题定义
1.7.
不同机器学习种类
2.
线性模型
2.1.
线性回归
2.2.
梯度下降 GD
2.3.
线性回归与梯度下降
2.4.
逻辑回归
2.5.
非线性变换
2.6.
支持向量机 SVM [WIP]
2.7.
核技巧 Kernel Trick
2.8.
支持向回归 SVR [WIP]
3.
机器学习实践
3.1.
梯度下降的变种
3.2.
过拟合和欠拟合
3.3.
数据集分割与验证
3.4.
评估指标
4.
Old School [WIP]
4.1.
约束问题 CSP [WIP]
4.2.
广度搜索 BFS [WIP]
4.3.
深度搜索 DFS [WIP]
4.4.
A*算法 [WIP]
4.5.
Q学习算法 [WIP]
5.
接下来的路径
6.
深度学习
6.1.
感知机
6.2.
多层感知机 MLP
6.3.
计算图与反向传播
6.4.
多分类与 Softmax
6.5.
层 Layer
6.6.
卷积神经网络 CNN
6.7.
自编码器 AE
6.8.
变分自编码器 VAE [WIP]
6.9.
生成对抗网络 GAN
6.10.
自注意力机制与 Transformer [WIP]
7.
序列模型
7.1.
循环神经网络 RNN
7.2.
长短时记忆网络 LSTM
7.3.
Transformer [WIP]
7.4.
GPT [WIP]
8.
聚类算法
8.1.
层次聚类
8.2.
K均值聚类
8.3.
K近邻 [WIP]
8.4.
DBScan [WIP]
8.5.
高斯混合模型 GMM [WIP]
9.
数据挖掘与数据分析 [WIP]
9.1.
PCA [WIP]
9.2.
SVD [WIP]
9.3.
随机森林 [WIP]
10.
优化
10.1.
凸函数
11.
信息论
11.1.
自信息与熵
11.2.
联合熵、条件熵、散度与互信息
12.
学习理论
12.1.
PAC框架
13.
写在最后
代码附录
Light
Rust
Coal
Navy
Ayu
机器学习书：以高中数学视角
自注意力机制与 Transformer