入门篇
PyTorch
基础概念：理解张量（Tensor），它类似于 NumPy 数组，是 PyTorch 中数据的基本单位；自动微分机制（Autograd）用于计算梯度；Module 是构建神经网络层的组件。
安装：使用pip install torch torchvision命令安装。
简单实践：构建简单的线性回归模型，定义模型类，初始化模型和优化器，进行训练。
TensorFlow
基础概念：Tensor 是数据基本单位，类似多维数组；Graph 表示计算过程的图结构；Session 是执行计算图的运行环境。
安装：通过pip install tensorflow命令安装。
简单实践：以线性回归为例，定义模型参数、模型、损失函数和优化器，然后进行训练。
Keras
基础概念：Sequential model 用于构建简单的线性神经网络模型；Functional API 用于构建更复杂的网络结构；Layers 是构建神经网络层的组件。
安装：一般安装 TensorFlow 后就可使用 Keras，因为 Keras 已集成到 TensorFlow 中。
简单实践：以线性回归为例，使用 Sequential 构建模型，编译并训练模型。
进阶篇
PyTorch
高级模型构建：利用 PyTorch 的动态计算图特性，构建复杂的神经网络，如递归神经网络（RNN）、长短期记忆网络（LSTM）、生成对抗网络（GAN）等，灵活调整网络结构和参数。
优化技巧：学习使用各种优化器，如 Adagrad、Adadelta、RMSProp 等，调整学习率策略，如学习率衰减、自适应学习率等，提高模型训练效果。
分布式训练：了解如何使用 PyTorch 的分布式数据并行（DDP）等技术，在多个 GPU 或多台机器上进行分布式训练，加速模型训练过程。
TensorFlow
高级 API 使用：深入掌握 TensorFlow 的高级 API，如 Estimator、Dataset API 等，方便进行模型的训练、评估和部署，更高效地处理大规模数据集。
模型优化与调优：利用 TensorBoard 进行可视化分析，监控模型训练过程中的损失、准确率、梯度等指标，根据分析结果调整模型结构和超参数。
部署与应用：学习将 TensorFlow 模型部署到生产环境中，如使用 TensorFlow Serving 进行模型服务，实现模型的在线推理和应用。
Keras
自定义层与模型：学会自定义 Keras 层，实现自己的特定功能，结合 Functional API 构建复杂的非序列模型，满足更复杂的任务需求。
与其他框架结合：了解如何将 Keras 与其他深度学习框架或工具结合使用，如与 Scikit-learn 结合进行数据预处理和模型评估，拓展 Keras 的应用场景。
模型优化与微调：在预训练模型的基础上进行微调，使用迁移学习技术，提高模型在特定任务上的性能，通过调整超参数、数据增强等方法进一步优化模型。

课程目录：

1.【pytorch】PyTorch框架发展趋势简介
2.【pytorch】框架安装方法（CPU与GPU版本）
3.【pytorch】PyTorch基本操作简介
4.【pytorch】自动求导机制
5.【pytorch】线性回归DEMO-数据与参数配置
6.【pytorch】线性回归DEMO-训练回归模型
7.【pytorch】常见tensor格式
8.【pytorch】Hub模块简介
9.【pytorch实战】1-气温数据集与任务介绍
10.【pytorch实战】2-按建模顺序构建完成网络架构
11.【pytorch实战】3-简化代码训练网络模型
12.【pytorch实战】4-分类任务概述
13.【pytorch实战】5-构建分类网络模型
14.【pytorch实战】6-DataSet模块介绍与应用方法
15.【pytorch实战】判别网络模块构造
16.【Keras】Keras开篇
17.【Keras】Keras构建模型_Keras使用MNIST数据集训练CNN
18.【Keras】Keras调用VGG16来训练
19.【Keras】深度学习更种优化算法
20.【Keras】keras介绍和安装
21.【Keras】实现线性回归
22.【Keras】实现非线性回归
23.【Keras】MNIST分类程序
24.【Keras】交叉熵的介绍和应用
25.【Keras】Dropout应用
26.【Keras】正则化应用
27.【Keras】优化器介绍及应用
28.【Keras】CNN应用于手写数字识别
29.【Keras】RNN应用
30.【Keras】模型的保存和载入
31.【Keras】绘制网络结构
32.【Keras实战】图像数据预处理
33.【Keras实战】猫狗分类-简单CNN.
34.【Keras实战】猫狗分类-VGG16-bottleneck.
35.【Keras实战】猫狗分类-VGG16-Finetune.
36.【Keras实战】图像风格转换-原理介绍
37.【Keras实战】图像风格转换-程序讲解1
38【Keras实战】图像风格转换-程序讲解2
39.【Keras实战】word2vec介绍和CNN在自然语言中的应用
40.【Keras实战】函数式模型
41.【Keras实战】CNN情感分类
42.【Keras实战】LSTM情感分类
43.【Keras实战】数据处理
44.【Keras实战】模型结构
45.【Keras实战】维特比算法预测中文分词
46.【Keras实战】生成式对抗网络原理及应用介绍
47.【Keras实战】生成手写数字图片
48.【TensorFlow】神经网络设计过程
49.6
50.【TensorFlow】TF2常用函数1
51.【TensorFlow】TF2常用函数2
52.【TensorFlow】鸢尾花数据集读入
53.【TensorFlow】神经网络实现鸢尾花分类
54.【TensorFlow】-预备知识
55.【TensorFlow】复杂度学习率
56.【TensorFlow】激活函数
57.【TensorFlow】损失函数
58.【TensorFlow】缓解过拟合
59【TensorFlow】优化器
60.【TensorFlow】搭建网络八股sequential
61.【TensorFlow】搭建网络八股class
62.【TensorFlow】MNIST数据集
63.【TensorFlow】ASHION数据集
64.【TensorFlow】搭建网络八股总览
65.【TensorFlow】自制数据集
66.【TensorFlow】数据增强
69.【TensorFlow】断点续训
71.【TensorFlow】参数提取
69.【TensorFlow】acc&loss可视化
70.【TensorFlow】-给图识物
71【TensorFlow】卷积计算过程
72.【TensorFlow】感受野
73.【TensorFlow】全零填充
77.【TensorFlow】TF描述卷积计算层
75.【TensorFlow】批标准化
76.【TensorFlow】池化
77.【TensorFlow】舍弃
78.【TensorFlow】-卷积神经网络
79.【TensorFlow】CIFAR10数据集
83.【TensorFlow】LeNet
84.【TensorFlow】-AlexNet
82.【TensorFlow】VGGNet
83.【TensorFlow】InceptionNet
84.【TensorFlow】esNet
85.【TensorFlow】典卷积网络小结
86.【TensorFlow】循环核时间步展开
87.【TensorFlow】循环计算层
88.【TensorFlow】TF描述循环计算层
89.【TensorFlow】-循环计算过程Ⅰ
90.【TensorFlow】字母预测onehot_1pre1
91.【TensorFlow】循环计算过程Ⅱ
92.【TensorFlow】字母预测onehot_4pre1
93.【TensorFlow】mbedding编码
94.【TensorFlow】字母预测Embedding_1pre1
95.【TensorFlow】字母预测Embedding_4pre1
96.【TensorFlow】RNN实现股票预测
97.【TensorFlow】LSTM实现股票预测(LSTM计算过程_TF描述
52.56 实战（二）LSTM实现文本生成
53.57 迁移学习（一）
54.58 迁移学习（二）