大模型应用与工程实践:Python 进阶、Transformer、微调量化到 vLLM 推理部署

课程介绍

这门课把 Python 编程基础和大模型工程实践放在一条线上。前半部分从虚拟环境安装、语法与运算符讲起,依次覆盖分支循环、线性表与哈希表、字符串与编码、字节类型与切片、字典与解析式、函数参数与作用域、闭包与 LEGB、生成器函数、递归,以及无参/带参装饰器、类型注解和 functools 的 reduce、partial、lru_cache,并穿插九九乘法表、选择排序、插入排序等练习。

文件与数据处理部分讲 open 读写模式与文件指针、Path 和 shutil、pickle/json/msgpack/csv 序列化、正则表达式与 re 模块、argparse 命令行参数。面向对象部分讲类与实例、属性访问规则、类方法与静态方法、property、继承与 Mixin、日志模块,进阶部分深入异常处理和各类魔术方法(运算符重载、容器化、可调用对象、上下文管理、反射、哈希),以及模块搜索加载、绝对导入与相对导入和打包分发。

后半部分转向深度学习与大模型:从 sklearn、神经网络和 PyTorch 过渡到 RNN、LSTM、GRU 与 Transformer,再讲分布式训练的并行策略、通信原语、ZeRO 与混合并行,DDP/FSDP 与 DeepSpeed 示例,HuggingFace API、微调数据集与对话模板、LoRA 微调,以及模型量化、剪枝与蒸馏。

工程落地部分围绕推理与服务化展开,涉及 vLLM 与 SGLang 推理引擎、LLM 的生产架构案例、基于 LiteLLM-Proxy 的生产架构,以及 Ray Cluster 的创建管理和 Ray Serve 与 vLLM 的集成。目录中部分节次编号不连续,内容以下方目录为准。

课程目录

Python学习之路
Python学习之路
虚拟环境安装
计算机基础理论
语法
运算符和内建函数

c02 线性表
分支循环
循环和三元表达式
数值和内建函数
线性表原理详解
列表操作和内存模型
列表复制原理
Random模块
元组
字符串构造
字符串分割替换移除
字符串判断
字符串格式化
编码的本质

c02 线性表 / c03 哈希表
字节类型
切片
第一章习题-九九乘法表
第一章习题-登录
第二章习题
封装和解构
set和哈希表原理
字典增删改查
遍历和有序性
解析式和生成器表达式

c04 函数
函数概念
传实参2种方式
缺省值
可变形参
形参和返回值
作用域和嵌套函数
局部变量赋值和global
闭包原理
nonlocal和LEGB
匿名函数
生成器函数
排序
函数执行原理
递归函数
作业之比较大小
作业上下三角打印
选择排序精讲

c05 装饰器
可迭代对象和内建函数
高阶函数柯里化
无参装饰器
带参装饰器
类型注解和类型检查装饰器
插入排序
functools之reduce和partial
functools之lru_cache和cache原理

c06 文件IO和序列化
open方法和主模式
附加模式和指针
递归作业详解
文件对象读写和迭代
Path常用操作
shutil模块使用
序列化本质和pickle
json和msgpack
csv文件处理
正则表达式
复制作业详解
正则习题讲解
re模块使用
argparse模块使用

c07 面向对象
面向对象概念
类、实例、属性、self
属性本质和属性访问规则
方法、类方法、静态方法原理
访问控制
时间模块使用
property装饰器
继承
继承和访问控制
覆盖
初始化原则和多态
多继承和Mixin
高阶函数参数本质
作业温度转换和图形面积
日志层次、级别、根
handler和formatter
日志流

c08 面向对象进阶
异常处理
魔术方法之实例化
魔术方法之可视化
魔术方法之布尔等效
魔术方法之比较运算符重载
魔术方法之算数运算符重载
魔术方法之容器化
魔术方法之可调用对象
魔术方法之上下文管理
魔术方法之反射
模块搜索加载缓存导入和全局变量
魔术方法之哈希
包加载原理
绝对导入和相对导入
导入访问控制和__all__
打包分发
树的遍历

sklearn、神经网络与 PyTorch
sklearn
神经网络和pytorch

RNN、LSTM、GRU 与 Transformer
RNN、LSTM、GRU和Transformer
Transformer模型训练深度解析、各组件的演进、GPU

分布式训练与模型微调
模型分布式训练并行策略、通信原语、ZeRO、混合并行、模型训练案例
大模型分布训练(ddp、fsdp和deepspeed示例)、HuggingFace API及用例、模型微调基础
HF API及用例、模型微调工作机制、微调数据集和对话模板、LoRA

模型压缩、量化与推理引擎
模型微调实践、模型压缩与优化介绍、模型量化工作原理、模型量化实践、模型剪枝和模型蒸馏介绍
模型量化及实践案例、模型推理与推理引擎、vLLM组件、架构、工作原理及案例
SGLang推理引擎、LLM的生产架构及案例

生产架构与 Ray
基于LiteLLM-Proxy的生产架构案例、Ray与Ray Cluster、Ray Cluster创建与管理
Ray Serve架构与工作机制、Ray Server与vLLM集成

资源下载
下载价格35 学币
赞助终身VIP免费
常见问题
学币是什么?
1学币 = 1元人民币,可通过每日签到或赞助VIP获得!
如何购买更优惠?
推荐赞助VIP,赞助VIP后再购买超划算-购买会有折扣!(季/年VIP折扣购买,终身VIP免费)
资源能分享给别人吗?
本站资源仅限用于学习和研究目的,不得用于商业或者非法用途,否则,一切后果请用户自负!
遇到问题怎么办?
遇到问题直接点击页面右下角消息按钮联系客服反馈,会在第一时间处理!
0
显示验证码
没有账号?注册  忘记密码?