在 Windows 下配置深度学习环境，必须先行安装 Visual Studio 2019 IDE - 适用于 Windows 的编程软件 (microsoft.com)。
1 安装 MXNet
由于 MXNet 暂不支持 cuda11（2021/01/18），所以需要先安装。
conda create -n mxnet python==3.8
conda activate mxnet
conda install cudnn
pip install mxnet-cu102 -f https://dist.mxnet.io/python
配置 Jupyter Notebook 支持：
conda install ipykernel
python -m ipykernel install --name mxnet
pip install autopep8
验证安装：
import mxnet as mx
a = mx.nd.ones((2, 3), mx.gpu())
b = a * 2 + 1
print('mxnet 版本：', mx.__version__)
b.asnumpy()
显示：
mxnet 版本： 2.0.0
array([[3., 3., 3.],
[3., 3., 3.]], dtype=float32)
2 GPU 驱动安装
必须在系统中安装以下 NVIDIA® 软件：
- NVIDIA® GPU 驱动程序：CUDA® 10.2 需要 418.x 或更高版本。
- CUDA® 工具包：TensorFlow 支持 CUDA® 10.2（TensorFlow 2.1.0 及更高版本）
- CUDA® 工具包附带的 CUPTI。
- cuDNN SDK 7.6
- （可选）TensorRT 6.0，可缩短用某些模型进行推断的延迟时间并提高吞吐量。
这里我选择的是：
- CUDA Toolkit 11.1.1 (Oct 2020) 或者直接按照 Download Drivers | NVIDIA 自行设定
- cuDNN Library for Windows (x86)，安装教程见 Installation Guide :: NVIDIA Deep Learning cuDNN Documentation
安装步骤简介：
- 安装 CUDA Toolkit 11.1.1
- 解压 cuDNN Library for Windows (x86)，并将其 放入
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.1
分别使用 nvcc -V、nvidia-smi 验证安装是否正确：
3 安装 TensorFlow
您可以参阅 pip 安装指南，了解可用的软件包、系统要求和说明。TensorFlow pip 软件包对采用 CUDA® 的显卡提供 GPU 支持：
conda create -n TensorFlow python==3.8
conda activate TensorFlow
pip install tensorflow
将最新稳定版 TensorFlow 安装，此时默认支持 GPU。
打开 Python 终端，还是报错：
错误提示说，需要 CUDA10.1，好吧，再安装吧。再次下载并安装 CUDA Toolkit 10.1 update2 (Aug 2019) 和 cuDNN Library for Windows10 (x86)。接着按照安装 CUDA11.1 的方式一样进行即可。
此时再调用，便提示安装成功：
配置 Jupyter Notebook 支持：
conda install ipykernel
python -m ipykernel install --name TensorFlow
pip install autopep8
在 Jupyter Notebook 中测试：
import tensorflow as tf
print('TensorFlow 版本:', tf.__version__)
x = tf.range(4, dtype=tf.float32)
tf.print(x)
tf.config.list_physical_devices('GPU')
输出：
TensorFlow 版本: 2.4.0-rc3
[0 1 2 3]
[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU'),
PhysicalDevice(name='/physical_device:GPU:1', device_type='GPU')]
说明安装成功。
4 安装 PyTorch
conda create -n torch python==3.8
conda activate torch
conda install pytorch torchvision torchaudio cudatoolkit=11.0 -c pytorch
配置 Jupyter Notebook 支持：
conda install ipykernel
python -m ipykernel install --name torch
pip install autopep8
验证：
import torch
print('torch 版本: ', torch.__version__)
torch.cuda.is_available(), torch.rand(3,3).cuda()
输出：
torch 版本: 1.7.0
(True,
tensor([[0.6373, 0.9435, 0.3128],
[0.0077, 0.2084, 0.3117],
[0.3208, 0.6816, 0.4047]], device='cuda:0'))
安装成功。
最终的效果是：
