课程介绍
课程从语言学与自然语言处理的关系讲起,衔接概率统计、机器学习和神经网络基础,再讨论如何用模型解决语言处理问题。学习内容按基础原理、内容理解体系与具体任务逐步展开。
实战部分围绕互联网内容场景,涉及文本相似度检测、实体识别、情感分类、文本提取与生成,以及数据准备、算法架构和效果评估。目录中的案例包含新闻内容、旅行内容、点评 UGC 与电商场景,适合按任务对照学习 NLP 的实现方法。
网盘说明:本课程为夸克网盘资源。
课程目录
第1章 课程介绍
1-1 课程目标
1-2 学习NLP对你有什么帮助
1-3 课程重难点
1-4 学习建议
第2章 语言学与自然语言处理
2-1 本章导学
2-2 语言的产生:语音、词汇、语法
2-3 踏上NLP之旅:什么是自然语言
2-4 中文自然语言处理为什么这么难
2-5 自然语言处理能解决哪些问题
2-6 聊一聊自然语言处理发展史
2-7 自然语言处理学习路径
2-8 本章小结
第3章 从数学原理到机器学习
3-1 本章导学
3-2 现代自然语言处理的基石-概率论知识介绍
3-3 概率论基础:贝叶斯和信息理论
3-4 基于概率统计的模型采样知识
3-5 从理论走向实践:机器学习是怎么回事(一)
3-6 从理论走向实践:机器学习是怎么回事(二)
3-7 寻找重要的信息:降维方法
3-8 从已知结果中学习未知问题-分类和回归
3-9 如何让数据本身分类-聚类算法介绍
3-10 测定模型结果的方法-评估指标
3-11 过去进行式:文本分析流程1
3-12 过去进行式:文本分析流程2
3-13 中文处理的第一个难题:分词
3-14 词语的处理:独热编码和词嵌入表示
3-15 本章小结
第4章 由简单单元构建复杂神经网络
4-1 本章导学
4-2 搭积木式的组合变换-激活函数和神经网络思想
4-3 神经网络的演进:梯度与反向传播
4-4 神经网络中我们可以参与的部分-超参数
4-5 优化器和学习率
4-6 提高模型效果的方法:归一化
4-7 构建线性模型解决温度计示数转换问题
4-8 使用深度学习模型解决温度计示数问题(一)
4-9 使用深度学习模型解决温度计示数问题(二)
4-10 本章小结
第5章 如何用机器学习能力解决自然语言处理问题
5-1 本章导学
5-2 文本预处理魔法:分词、停用词和特殊字符消失术
5-3 让计算机读懂汉语:用数值表示文本.mp4
5-4 基于python的文本预处理封装
5-5 改变NLP宇宙的词嵌入技术,word2vec让文本也可以互相运算
5-6 内容理解中最常见的分类问题,给文本打标签
5-7 自然语言处理中的序列标注问题,发现特定的词语
5-8 语言模型的演进,从定向任务到通用模型,让NLP日趋成熟
5-9 注意力机制,让模型能够关注重要内容,Attention is all your need
5-10 读懂微调 (finetune),通过小成本改变让模型具备强大的专业能力
5-11 生成式AI崛起,像人类一样对话
5-12 自然语言处理中常见的评价指标-AUC、BLEU、ROUGE等等有什么区别
5-13 高手的秘密,构建丰富的语料库和精选数据集
5-14 NLP常用工具介绍,如何站在巨人的肩膀上快速开始我们的工作-anaconda、NLTK、jieba、gensim、scikit-learn
5-15 本章小结
第6章 互联网公司如何搭建内容理解体系
6-1 本章导学
6-2 互联网公司为什么要做内容理解工作
6-3 自然语言处理如何在内容理解体系中发挥作用(一)
6-4 自然语言处理如何在内容理解体系中发挥作用(二)
6-5 新闻APP标准文本如何面向推荐系统构建内容理解体系(一)
6-6 新闻APP标准文本如何面向推荐系统构建内容理解体系(二)
6-7 融合了多种内容类型的马蜂窝旅行内容理解如何配合运营体系运转(一)
6-8 融合了多种内容类型的马蜂窝旅行内容理解如何配合运营体系运转(二)
6-9 内容理解在点评UGC场景下辅助风险控制(一)
6-10 内容理解在点评UGC场景下辅助风险控制(二)
6-11 京东电商下的内容理解与智能创意(一)
6-12 京东电商下的内容理解与智能创意(二)
6-13 本章小结
第7章 文本相似度检测在内容理解体系中的应用
7-1 本章导学
7-2 文本相似度检测的类型:长文本短文本、词语句子段落、字符级语义级
7-3 在内容理解体系中,相似度检测可以解决哪些问题.mp4
7-4 文本相似度检测的效果评估.mp4
7-5 使用编辑距离计算词或短语级的文本相似度
7-6 使用SIMHASH算法实现海量长文本的相似度计算
7-7 使用word2vec解决语义级别的短文本相似问题
7-8 本章小结
第8章 实体识别在内容理解体系中的应用
8-1 本章导学
8-2 实体识别能够帮助我们解决哪些问题
8-3 在内容理解体系中借助实体识别搭建基础能力
8-4 为实体识别的结果构建评价方案时有哪些可用的指标
8-5 了解序列建模的基本模型:循环神经网络(RNN)在自然语言处理中如何发挥作用
8-6 延长网络的记忆,长短时记忆网络(LSTM)都对RNN做了哪些改进
8-7 从规则到概率,条件随机场CRF算法帮助网络模型认识一般规律
8-8 -1 实体识别代码实战:ner_bert_lstm_crf
8-9 -2 实体识别代码实战:ner_bert_lstm_crf
8-10 -3 实体识别代码实战:ner_bilstm_crf
8-11 本章小结
第9章 文本分类任务在内容理解体系中的应用
9-1 本章导学
9-2 内容理解中应用最广泛的文本分类有哪些类型
9-3 如何在内容理解体系搭建中借助文本分类的力量
9-4 文本分类任务效果的评估-离线指标、人工测评、线上效果
9-5 文本分类的一个重要应用-情感分析在内容平台的实践
9-6 卷积神经网络基础知识
9-7 处理情感分类的数据集并搭建卷积网络1
9-8 处理情感分类的数据集并搭建卷积网络2
9-9 动手实践:使用word2vec为数据集构建词向量,并根据词向量寻找相似词
9-10 使用基于word2vec的fasttext工具来解决文本分类的问题
9-11 Transformer的衍生品BERT模型如何应用于文本分类
9-12 -1 内容理解体系中构建多级多标签分类会遇到哪些困难
9-13 -2 内容理解体系中构建多级多标签分类会遇到哪些困难
9-14 -1在实际工作中我们该如何为分类任务准备数据
9-15 -2在实际工作中我们该如何为分类任务准备数据
9-16 为我们的企业级分类任务的设计一个可扩展、易调整的算法架构
9-17 模型应用的最后一站,如何做分布式工程部署
第10章 文本提取或生成任务实战
10-1 本章导学.
10-2 文本提取与文本生成能够为我们提供哪些能力.
10-3 在内容理解中,我们如何借助文本提取和文本生成能力来搭建我们的能力框架.
10-4 没有标准答案的提取和生成任务该如何评估效果
10-5 永恒的智慧:探索很老但有用的TFIDF提取技术
10-6 从文本到链接:谷歌的TextRank算法如何改变搜索世界
10-7 GPT1模型-初代生成式预训练模型,智障但是开创了一个新的方向
10-8 GPT2模型-更强大的生成式预训练模型,开始具备工业上的可用性
10-9 -1 GPT3模型-开创性的生成式预训练模型,对话流畅度获得飞跃提升
10-10 -2 GPT3模型-开创性的生成式预训练模型,对话流畅度获得飞跃提升
10-11 InstructGPT在GPT3的基础上做的三大改进点-ChatGPT的原理1
10-12 InstructGPT在GPT3的基础上做的三大改进点-ChatGPT的原理2
10-13 动手实践:借助开源的GPT2模型搭建我们自己的生成式任务方案1
10-14 动手实践:借助开源的GPT2模型搭建我们自己的生成式任务方案2
10-15 动手实践:借助开源的GPT2模型搭建我们自己的生成式任务方案3
10-16 动手实践:借助开源的GPT2模型搭建我们自己的生成式任务方案4
10-17 动手实践:使用GPT2自动生成引人入胜的文本标题
10-18 动手实践:生成效果不佳?引入后评估模型来提高生成效果1
10-19 动手实践:生成效果不佳?引入后评估模型来提高生成效果2
10-20 借助ChatGPT的API实现文本摘要提取
10-21 本章小结
第11章 NLP未来展望与课程总结
11-1 内容理解与NLP实战课程回顾
11-2 大模型时代的AI价值对齐
11-3 NLP大模型未来展望
11-4 大模型时代下如何学习NLP
11-5 继续学习NLP的资源与建议
11-6 课程结束语-这是结束,也是开始