资源介绍
贪心学院·大模型开发应用实战营(2024)
本课程包括大模型基础,大模型指令微调,常用的开源模型微调,大模型对齐,垂直领域大模型应用5个阶段,内容涵盖大模型微调应用场景,大模型基座,LORA参数微调,模型压缩,QLORA参数微调,DeepSpeed训练框架解析,Megatron-LM训练框架解析,FlashAttention技术应用,微调模型Benchmark,ChatGLM,LLaMA,Mistral,MoE,大模型对齐,RLHF,DPO,垂直领域大模型应用等前沿技术等全方位知识讲解,并结合8个实战项目,帮助同学们实现学以致用。
资源目录
├──01 第一周
| ├──01 第一节 2024年1月16日
| | └──01 开营+大模型训练以及应用Case分析
| └──02 第二节 2024年1月18日
| | └──01 代码演示
├──02 第二周
| ├──01 第三节 2024年1月23日
| | └──01 提示工程及案例
| ├──02 助教补充课-Gradio入门 2024年1月24日
| | └──01 gradio入门
| └──03 第四节 2024年1月25日
| | └──01 文档分割及相似度分析
├──03 第三周
| ├──01 第五节 2024年1月30日
| | └──01 倒排索引、KNN、PQ
| └──02 第六节 2024年2月1日
| | └──01 NSW与HNSW算法、推荐系统、LLM结合
├──04 第四周
| ├──01 第七节 2024年2月20日
| | └──01 Langchain的应用
| └──02 第八节 2024年2月22日
| | └──01 -Langchain的应用2
├──05 第五周
| ├──01 第九节 2024年2月27日
| | └──01 RAG的改进方案
| ├──02 助教补充课-进阶RAG实战案例 2024年2月29日
| | └── 01 advanced_rag
| └── 02 助教补充课-进阶RAG实战案例 2024年2月29日
| | └── 01 advanced_rag
├──06 第六周
| ├──01 第十节 2024年3月5日
| | └──01 Agent
| └──02 第十一节 2024年3月7日
| | └──01 autogpt_metagpt
├──07 第七周
| ├──01 第十二节 2024年3月12日
| | └──01 HuggingGPT、斯坦福小镇
| └──02 第十三节 2024年3月14日
| | └──01 fine tune、Lora的微调
├──08 第八周
| ├──01 第十四节 2024年3月21日
| | └── 01 llama介绍&微调
| └── 01 第十四节 2024年3月21日
| | └── 01 llama介绍&微调
├──09 第九周
| ├──01 第十五节 2024年3月26日
| | └──01 Mistral-7B、MoE、ChatGLM、Qwen
| └──02 第十六节 2024年3月28日
| | └──01 多模态、文生图、文字转语音
├──10 第十周
| └──01 第十七节 2024年4月2日
| | └──01 多模态大模型、LLaVA MiniGPT-4
└──课件资料.zip 1.40G