课程介绍
这套冲刺班从机器学习的基本概念与建模流程讲起，补上矩阵运算、矩阵求导与最小二乘法，手动实现线性回归，再学习逻辑回归、梯度下降及其变体、分类模型评估指标，并系统掌握 Scikit-Learn 的常用方法。
模型部分涵盖 K-Means 与 DBSCAN 聚类、决策树（CART、ID3、C4.5）、Bagging 与随机森林、AdaBoost、梯度提升树、XGBoost 的原理与参数；调参部分讲网格搜索、随机搜索、Halving 搜索，以及 BayesOpt、HyperOpt、Optuna 的贝叶斯优化与 TPE。
课程还有专门的特征工程与实战技巧部分：字段类型、异常值检测、相关性分析、数据重编码、特征变换、连续变量处理、特征衍生、时序与 NLP 特征、目标编码，以及海量特征下的处理和网格搜索实战。
网盘说明：本课程为夸克网盘资源。
课程目录
机器学习基础与线性回归
LESSON 0 前言与导学（上）
LESSON 0 前言与导学（下）
LESSON 1 机器学习基本概念与建模流程（上）
LESSON 1 机器学习基本概念与建模流程（下）
LESSON 2 矩阵运算基础、矩阵求导与最小二乘法1
LESSON 2 矩阵运算基础、矩阵求导与最小二乘法2
LESSON 2 矩阵运算基础、矩阵求导与最小二乘法3
LESSON 3 线性回归的手动实现
LESSON 3.1 变量相关性基础理论
LESSON 3.2 数据生成器与Python模块编写
LESSON 3.3 线性回归手动实现与模型局限
LESSON 3.4 机器学习模型可信度理论与交叉验证基础
逻辑回归、梯度下降与 Scikit-Learn
LESSON 4.1 逻辑回归模型构建与多分类学习方法（上）
LESSON 4.1 逻辑回归模型构建与多分类学习方法（下）
LESSON 4.2 逻辑回归参数估计
LESSON 4.3 梯度下降基本原理与手动实现(上)
LESSON 4.3 梯度下降基本原理与手动实现（下）
LESSON 4.4 随机梯度下降与小批量梯度下降（上）
LESSON 4.4 随机梯度下降与小批量梯度下降（下）
LESSON 4.5 梯度下降优化基础：数据归一化与学习率调度（上）
LESSON 4.5 梯度下降优化基础：数据归一化与学习率调度（下）
LESSON 4.6 逻辑回归的手动实现方法（上）
LESSON 4.6 逻辑回归的手动实现方法（下)
LESSON 5.1 分类模型决策边界
LESSON 5.2 混淆矩阵与F1-Score
LESSON 5.3 ROC-AUC的计算方法、基本原理
LESSON 6.1Scikit-Learn快速入门
LESSON 6.2 Scikit-Learn常用方法速通
LESSON 6.3 （上）正则化、过拟合抑制
LESSON 6.3（下） Scikit-Learn逻辑回归参
LESSON 6.4 机器学习调参入门
LESSON 6.5（上）机器学习调参基础理
LESSON 6.5（下）Scikit-Learn中网格搜索
LESSON 6.6.1多分类评估指标的macro与we
LESSON 6.6.2 GridSearchCV的进阶使用方
聚类、决策树与随机森林
LESSON 7.1（上）无监督学习与K-Means基
LESSON 7.1（下）K-Means聚类的Scikit-Lear
LESSON 7.2 Mini Batch K-Means与DBSCAN聚类
LESSON 8.1 决策树模型的核心思想与建
LESSON 8.2（上）CART分类树的建模流
LESSON 8.2（下）sklearn中CART分类树的参
LESSON 8.3【加餐】ID3和C4.5的基本原理
LESSON 8.4 CART回归树的建模流程与skle
LESSON 9.1 集成算法开篇：Bagging方法的
LESSON 9.3 随机森林回归器的参数
LESSON 9.4 集成算法的参数空间与网格
LESSON 9.5 随机森林在巨量数据上的增
LESSON 9.6 Bagging及随机森林6大面试热
LSEEON 9.2 随机森林回归器的实现
超参数优化与 Boosting 家族
LESSON12.4 弱评估器结构参数：弗里德
LESSON12.5 梯度提升树的提前停止
LESSON12.6 袋外数据与其他参数
LESSON12.7 梯度提升树的参数空间与TP
LESSON12.8 原理进阶 (1)：GBDT数学流程
LESSON12.9 原理进阶 (2)：拟合伪残差的
LESSON13.1.1 XGBoost的基本思想
LESSON13.1.2 实现XGBoost回归：sklearnAPI详
LESSON13.1.3 实现XGBoost回归：xgb原生代
LESSON13.1.4 实现XGBoost分类：目标函数
LESSON13.2.1 基本迭代过程中的参数
LESSON13.2.2 目标函数及其相关参数
LESSON13.2.3 三种弱评估器与DART树详
LESSON13.2.4 弱评估器的分枝：结构分
LESSON13.2.5 控制复杂度：弱评估器的
LESSON13.2.6 XGBoost中的必要功能性参
LESSON 10.1 开篇：超参数优化与枚举网
LESSON 10.2 随机网格搜索（上）
LESSON 10.2 随机网格搜索（下）
LESSON 10.3 Halving网格搜索（上）
LESSON 10.3 Halving网格搜索（下）
LESSON 10.4 贝叶斯优化的基本流程
LESSON 10.5 BayesOpt vs HyperOpt vs Optuna
LESSON 10.6 基于BayesOpt实现高斯过程gp
LESSON 10.7 基于HyperOpt实现TPE优化
LESSON 10.8 基于Optuna实现多种优化
LESSON 11.1 Boosting的基本思想与基本元
LESSON 11.2 AdaBoost的参数（上）：弱评
LESSON 11.3 AdaBoost的参数（下）：实践
LESSON 11.4 原理进阶：AdaBoost算法流程
LESSON 12.1 梯度提升树的基本思想与实
LESSON 12.2 迭代过程中的参数(1)：GBDT
LESSON 12.3 迭代过程中的参数(2)：GBDT
LESSON 13.3.1 XGBoost的参数空间
LESSON 13.3.2 XGBoost基于TPE的调参
LESSON 13.4.1 XGBoost的基本数学流程
LESSON 13.4.2 化简XGBoost的目标函数
LESSON 13.4.3 求解XGBoost的损失函数
特征工程
【特征工程】Part 1.3 字段类型转化与
【特征工程】Part 1.4 异常值检测
【特征工程】Part 1.5 相关性分析
【特征工程】Part 2.1数据重编码：Or
【特征工程】Part 2.2 数据重编码：O
【特征工程】Part 2.3 转化器流水线：
【特征工程】Part 2.4 特征变换：数据
【特征工程】Part 2.5 连续变量分箱：
【特征工程】Part 2.6 连续变量分箱：
【特征工程】Part 3.1.1 特征衍生方法
【特征工程】Part 3.1.2 基于业务的新
【特征工程】Part 3.1.3 基于业务的服
【特征工程】Part 3.1.4 基于数据探索
【特征工程】Part 3.1.5 借助IV值检验
【特征工程】Part 3.1.6 基于数据探索
【特征工程】Part 3.2.1 单变量特征衍
【特征工程】Part 3.2.2 四则运算衍生
【特征工程】Part 3.2.3 分组统计特征
【特征工程】Part 3.2.4 多项式特征衍
【特征工程】Part 3.2.5 统计演变特
【特征工程】Part 3.2.6 多变量交叉组
【特征工程】Part 3.2.7 多变量分组统
【特征工程】Part 3.2.8 多变量分组统
【特征工程】Part 3.2.9 多变量多项式
【特征工程】Part 3.2.10 多变量多项式
【特征工程】Part 3.2.11 时序特征分析
【特征工程】Part 3.2.12 时序特征衍生
【特征工程】Part 3.2.13 时序特征衍生
【特征工程】Part 3.2.14 时序特征衍生
【特征工程】Part 3.2.15 时间序列分析
【特征工程】Part 3.2.16 词向量化与T
【特征工程】Part 3.2.17 NLP特征衍生方
【特征工程】Part 3.2.18 NLP特征衍生函
【特征工程】Part 3.2.19 交叉组合与多
【特征工程】Part 3.2.20 分组统计高阶
【特征工程】Part 3.2.21 目标编码
【特征工程】Part 3.2.22 关键特征衍生
【特征工程】Part 3.2.23特征衍生实战
【特征工程】Part 3.2.24 特征衍生实战
【特征工程】Part 3.2.25 特征衍生实战
【特征工程】Part 3.2.26 特征衍生实战
实战技巧
【实战技巧】Part 4.0第四部分导学
【实战技巧】Part 4.1 海量特征衍生与 (下)
【实战技巧】Part 4.1 海量特征衍生与筛选（上）
【实战技巧】Part 4.2 网格搜索超参数 (上)
【实战技巧】Part 4.2 网格搜索超参数（下）
