资源介绍
极客时间·AI大模型微调训练营
理论与实践相结合,深入掌握大模型微调(Fine-tuning)技术
大模型微调技术揭秘:Adapter Tuning,Prompt Tuning,Prefx Tuning,P-Tuning,LoRA,AdaLORA, QLORA
熱练掌握 Hugging Face Transformers & PEFT, Microsoft Deepspeed 等微调工具库。
基于国产硬件(华为昇腾 910)和大模型(ChatGLM-6B)进行微调技术实践。
PS: 配合[SVIP]极客时间 AI 大模型应用开发实战营0期 一起看
彭靖田谷歌开发者专家,LangChain 开发者,谷歌出海创业加速器导师
极客时间《A 大模型应用开发实战营》讲师,开源项目 Kubeflow 维护者,TensorFlow 贡o献者。国内第一本深度剖析 Google Al 框架的畅销书《深入理解 TensorFlow》作者。
华为公司 2012 实验室深度学习团队成员,从零到一参与了华为深度学习平台和华为深度学习云服务的设计与研发工作。2017 年作为技术合伙人加入才云科技,负责 A1Cloud,并为能源、运营商等多个行业提供定制化人工智能平台方案。
。加州大学访问学者,毕业于浙江大学竺可桢学院。
资源目录
├─0-开营直播1019
│ ├─0-开营直播-10.19直播答疑部分.mp4 407.54MB
│ ├─0-开营直播1019-RAG、微调、预训练,如何选择适合的大模型优化方式?.mp4 1.13GB
│ └─大厂案例PPT
│ ├─360 大数据平台定制开发之道.pdf 811.72KB
│ ├─DDD 在京东物流的落地效果.pdf 965.99KB
│ ├─Go 并发数据结构和算法实践.pdf 662.06KB
│ ├─Go 语言基础原理深度解析.pdf 479.82KB
│ ├─大疆 Kubernetes 探索与实践之路.pdf 1.92MB
│ ├─如何建设一支能打硬仗的技术团队.pdf 173.88KB
│ ├─微保 Service Mesh 研发实践中的取舍-龙武_compressed.pdf 598.75KB
│ ├─快手 AI 生成式技术实践.pdf 628.98KB
│ ├─技术管理路上的那些事儿.pdf 1.17MB
│ ├─推荐系统特征交互建模:浅层模型、深度模型与 AutoML.pdf 2.46MB
│ ├─构建批流一体化 AI 数据平台的深度探索.pdf 1MB
│ ├─百度文心 (ERNIE) 语义理解技术详解.pdf 1.43MB
│ ├─研发效能建设的“灵魂拷问”与落地实践.pdf.pdf 1.31MB
│ ├─类秒杀场景下的瞬时大流量高并发实践.pdf 526.44KB
│ ├─腾讯万亿级 Elasticsearch 架构实践.pdf 1.32MB
│ └─阿里工程效能微创新.pdf 2.09MB
├─1-开营直播:大语言模型微调的前沿技术与应用
│ ├─代码
│ ├─直播评论
│ │ └─20231129评论区记录.xlsx 16.46KB
│ ├─视频
│ │ └─01-大模型微调的前沿技术与应用.mp4 836.28MB
│ ├─课件
│ │ └─开营直播:大语言模型微调的前沿技术与应用.pdf 9.91MB
│ └─资料
├─10-实战QLoRA微调ChatGLM3-6B
│ ├─代码
│ │ └─github.txt 44B
│ ├─直播评论
│ │ └─20240103评论区记录.xlsx 10.46KB
│ ├─视频
│ │ ├─10-10-实战QLORA微调ChatGLM3-6B 1月3日-更多资料shikey.com.mp4 989.97MB
│ │ └─10-AI 大模型微调训练营第 0 期直播课-6-更多资料shikey.com.mp4 773.99MB
│ ├─课件
│ │ └─9-实战QLoRA 微调 ChatGLM3-6B.pdf 14.08MB
│ └─资料
│ └─GLM论文.zip 8.44MB
├─11-快速入门 LangChain
│ ├─代码
│ ├─直播评论
│ ├─视频
│ │ ├─11-快速入门 LangChain 1月7日-2-更多资料shikey.com.mp4 924.1MB
│ │ └─11-快速入门 LangChain 1月7日-更多资料shikey.com.mp4 291.65MB
│ ├─课件
│ │ └─10-快速入门 LangChain 大模型应用开发框架.pdf 9.68MB
│ └─资料
├─12-实战基于LangChain和ChatGLM私有化部署聊天机器人
│ ├─代码
│ ├─直播评论
│ │ └─20240110评论区记录.xlsx 13.45KB
│ ├─视频
│ │ └─12-实战基于LangChain和ChatGLM私有化部署聊天机器人1月10日-更多资料shikey.com.mp4 1.38GB
│ └─课件
│ └─11-实战基于LangChain和ChatGLM私有化部署聊天机器人.pdf 10.6MB
├─13-实战私有数据微调ChatGLM3
│ ├─代码
│ │ └─代码.txt 44B
│ ├─直播评论
│ │ └─20240118评论区记录.xlsx 14.25KB
│ ├─视频
│ │ └─13-实战私有数据微调ChatGLM31月18日-更多资料shikey.com.mp4 1.43GB
│ ├─课件
│ │ └─12-实战私有数据微调ChatGLM3.pdf 10.02MB
│ └─资料
├─14-ChatGPT大模型训川练技术RLHF
│ ├─代码
│ │ └─代码.txt 44B
│ ├─直播评论
│ │ └─20240121评论区记录.xlsx 13.25KB
│ ├─视频
│ │ └─14-ChatGPT大模型训川练技术RLHF1月21日-更多资料shikey.com.mp4 1.14GB
│ ├─课件
│ │ └─13-ChatGPT大模型训练技术RLHF.pdf 6.45MB
│ └─资料
├─15-混合专家模型(MoEs)技术揭秘
│ ├─直播评论
│ │ └─20240124评论区记录.xlsx 11.35KB
│ ├─视频
│ │ └─15-混合专家模型(MoEs)技术揭秘1月25日-更多资料shikey.com-更多资料shikey.com.mp4 942.75MB
│ ├─课件
│ │ └─14-混合专家模型(MoEs)技术揭秘.pdf 5.37MB
│ └─资料
│ └─MoEs论文.zip 7.67MB
├─16-大模型分布式训练框架 Microsoft DeepSpeed
│ ├─代码
│ │ └─代码.txt 44B
│ ├─直播评论
│ │ └─20240128评论区记录.xlsx 12.74KB
│ ├─视频
│ │ └─16-大模型分布式训练框架 Microsof Deepspeed1月28日-更多资料shikey.com.mp4 1.42GB
│ ├─课件
│ │ └─15-大模型分布式训练框架Microsoft DeepSpeed(1).pdf 7.78MB
│ └─资料
│ └─ZeRO论文.zip 2.84MB
├─17-Meta AI 大模型家族 LLaMA
│ ├─代码
│ ├─直播评论
│ │ └─20240131评论区记录.xlsx 11.75KB
│ ├─视频
│ │ └─17-Meta Al 大模型家族 LLaMA1月31日-更多资料shikey.com.mp4 1.13GB
│ ├─课件
│ │ └─16-Meta AI 大模型家族 LLaMA.pdf 8.6MB
│ └─资料
│ └─LLaMAl论文.zip 15.27MB
├─2-大模型四阶技术总览
│ ├─直播评论
│ │ └─20231203评论区记录.xlsx 17.14KB
│ ├─视频
│ │ └─02-AI大模型四阶技术总览.mp4 1.5GB
│ ├─课件
│ │ ├─1-AI大模型四阶技术总览-新.pdf 18.91MB
│ │ └─1-AI大模型四阶技术总览.pdf 20.74MB
│ └─资料
├─3-大语言模型技术发展与演进
│ ├─直播评论
│ │ └─20231203评论区记录.xlsx 17.14KB
│ ├─视频
│ │ └─03-大模型演进-更多资料shikey.com.mp4 1.77GB
│ ├─课件
│ │ └─2-大语言模型技术发展与演进.pdf 17.79MB
│ └─资料
│ └─论文.zip 9.97MB
├─4-大语言模型微调技术揭秘-PEFT
│ ├─代码
│ ├─直播评论
│ │ └─20231206评论区记录.xlsx 14.27KB
│ ├─视频
│ │ ├─04-大模型微调技术揭秘-PEFT-更多资料shikey.com.mp4 2.11GB
│ │ └─04-新录制1月14日-更多资料shikey.com.mp4 864.71MB
│ ├─课件
│ │ ├─2-大语言模型技术发展与演进.pdf 17.79MB
│ │ └─3-大模型微调技术揭秘-PEFT.pdf 10.05MB
│ └─资料
│ └─Fine-tuning论文.zip 16.51MB
├─5-大语言模型微调技术揭秘-LoRA
│ ├─代码
│ ├─直播评论
│ │ └─20231210评论区记录.xlsx 16.01KB
│ ├─视频
│ │ └─05-大模型低秩适配(LoRA)技术-更多资料shikey.com.mp4 1.51GB
│ ├─课件
│ │ ├─3-大模型微调技术揭秘.pdf 16.2MB
│ │ └─4-大模型微调技术揭秘-LoRA.pdf 7.54MB
│ └─资料
│ └─UniPELT A Unified Framework for Parameter-Efficient Language Model Tuning.pdf 444.46KB
├─6-大模型开发工具库
│ ├─代码
│ ├─直播评论
│ ├─视频
│ │ └─06-大模型开发工具-更多资料shikey.com.mp4 1.5GB
│ └─课件
│ └─5-大模型开发工具库 HF Transformers.pdf 4.44MB
├─7-实战 Transformers 模型微调
│ ├─代码
│ │ └─github.txt 44B
│ ├─直播评论
│ │ └─20231220评论区记录.xlsx 15.78KB
│ ├─视频
│ │ └─07-实战 Transformers 模型微调-12月13日-更多资料shikey.com.mp4 1.49GB
│ └─课件
│ └─6-实战Transformers模型微调.pdf 4.36MB
├─8-实战Transformers模型量化
│ ├─代码
│ │ └─github.txt 44B
│ ├─直播评论
│ │ └─20231224评论区记录.xlsx 12.46KB
│ ├─视频
│ │ └─08-实战Transformers模型量化-更多资料shikey.com.mp4 1.25GB
│ ├─课件
│ │ └─7-实战Transformers模型量化.pdf 6.37MB
│ └─资料
│ └─Quantization论文.zip 5.56MB
├─9-大模型高效微调工具HF PEFT
│ ├─代码
│ │ └─github.txt 44B
│ ├─直播评论
│ │ └─20231227评论区记录.xlsx 12.81KB
│ ├─视频
│ │ └─09-大模型高效微调工具HF PEFT12月27日.mp4 1.33GB
│ └─课件
│ └─8-大模型高效微调工具HF PEFT.pdf 2.77MB
├─目录.txt -1.#INDB
└─课程大纲.jpg 1.42MB