在 AWS 上使用 PyTorch

为了充分体验 PyTorch 的功能，需要一台至少配备一块专用 NVIDIA GPU 的机器。虽然拥有具备这些规格的个人机器并不总是现实的，但我们提供的云端解决方案可以让您测试并使用 PyTorch 的全部功能。

AWS 提供以下两种选择：

• 深度学习 AMI：专用的预构建机器学习实例，内置 PyTorch。
• 深度学习基础 AMI：纯净的 Linux 和 Windows 实例，供您自定义安装 PyTorch。

深度学习 AMI 快速入门

如果您想从一台已安装 PyTorch 且可通过命令行登录的 Linux AWS 实例开始，这份分步指南将为您提供帮助。

1. 登录您的 AWS 控制台。如果您还没有 AWS 账户，请参阅下方的入门指南。
2. 点击 启动虚拟机 (Launch a virtual machine)。
3. 选择 深度学习 AMI (Ubuntu) (Deep Learning AMI (Ubuntu))。

   这将为您提供一个已预装特定版本 PyTorch 的实例。如果您需要一个需要手动安装 PyTorch 的纯净 AWS 实例，可以选择 深度学习基础 AMI (Ubuntu) (Deep Learning Base AMI (Ubuntu))，它具备硬件支持，但不含任何预装软件。

4. 选择 GPU 计算实例类型 p3.2xlarge。

   您可以选择任何可用实例来试用 PyTorch，甚至是免费套餐，但为了获得最佳性能，建议使用 GPU 计算 (GPU compute) 或计算优化 (Compute optimized) 实例。其他实例选项包括计算优化型 c5 系列（例如 c5.2xlarge）或通用计算型 t2/t3 系列（例如 t2.2xlarge）。需要注意的是，如果您选择没有 GPU 的实例，PyTorch 将仅在 CPU 计算模式下运行，操作速度可能会慢得多。

5. 点击 审核并启动 (Review and Launch)。
6. 查看实例信息并点击 启动 (Launch)。
7. 如果您还没有密钥对，请 创建一个新密钥对 (Create a new key pair)。选择一个名称，并通过 下载密钥对 (Download Key Pair) 按钮将其保存到本地。
8. 现在点击 启动实例 (Launch Instances)。您现在拥有了一个可用于 PyTorch 的活动实例。如果您点击 查看实例 (View Instances)，将看到您正在运行的实例。
9. 记下 公有 DNS (Public DNS)，稍后将使用它通过命令行 ssh 进入您的实例。
10. 打开命令行提示符
11. 确保您的密钥对具有正确的权限，否则您将无法登录。输入 chmod 400 path/to/downloaded/key-pair.pem。
12. 输入 ssh -i path/to/downloaded/key-pair.pem ubuntu@<上述公有 DNS>。例如：ssh -i ~/Downloads/aws-quick-start.pem ubuntu@ec2-55-181-112-129.us-west-2.compute.amazonaws.com。如果提示是否继续连接，请输入 yes。
13. 现在您应该会看到类似 ubuntu@ip-100-30-20-95 的提示符。如果是这样，说明您已成功连接到实例。
14. 通过运行下方的验证步骤来确认 PyTorch 已安装。

    如果您选择了 深度学习基础 AMI (Ubuntu) 而不是 深度学习 AMI (Ubuntu)，则需要手动安装 PyTorch。请按照 Linux 入门说明进行安装。

快速入门验证

为了确保 PyTorch 安装正确，我们可以通过运行简单的 PyTorch 代码来验证。在此我们将构建一个随机初始化的张量。

import torch
x = torch.rand(5, 3)
print(x)

输出应该类似于

tensor([[0.3380, 0.3845, 0.3217],
        [0.8337, 0.9050, 0.2650],
        [0.2979, 0.7141, 0.9069],
        [0.1449, 0.1132, 0.1375],
        [0.4675, 0.3947, 0.1426]])

此外，要检查 GPU 驱动程序和 CUDA 是否启用并可被 PyTorch 访问，请运行以下命令，查看 CUDA 驱动程序是否已启用

import torch
torch.cuda.is_available()

AWS 入门指南

通常，您将使用 Amazon Elastic Compute Cloud (或 EC2) 来启动实例。Amazon 拥有各种 实例类型，每种实例都针对特定用例进行了配置。对于 PyTorch，强烈建议使用具备 GPU 或自定义 AI/ML 加速器的加速计算实例，因为它们是为机器学习的高计算需求量身定制的。

为了使用 AWS，如果您还没有账户，需要注册一个 AWS 账户。您需要创建一个用户名（电子邮件地址）、密码和一个 AWS 账户名（您可以为不同目的创建多个 AWS 账户）。您还需要提供联系方式和账单信息。账单信息非常重要，因为虽然 AWS 确实提供了所谓的“免费套餐”实例，但要使用 PyTorch，您可能需要功能更强大、付费的实例。

登录后，您将进入 AWS 控制台。您还可以通过一系列 简单的教程 了解更多关于 AWS 的信息。

基于 AWS Inferentia 的实例

AWS Inferentia 是由 AWS 定制的一款芯片，旨在提供云端更高性能和低成本的机器学习推理。Amazon EC2 Inf1 实例配备了多达 16 个 AWS Inferentia 芯片、最新的第二代 Intel Xeon 可扩展处理器以及高达 100 Gbps 的网络带宽，从而在云端实现高吞吐量和最低成本的推理。您可以将 Inf1 实例与 Amazon SageMaker 结合使用以获得完全托管的工作流，或者直接使用已集成 PyTorch 的 AWS Neuron SDK。

基于 GPU 的实例

Amazon EC2 P4d 实例 为 AWS 上的机器学习训练提供最高性能。它们由最新的 NVIDIA A100 Tensor Core GPU 驱动，并提供云端首创的 400 Gbps 实例网络。P4d 实例部署在名为 EC2 UltraClusters 的超大规模集群中，这些集群由超过 4,000 个 NVIDIA A100 GPU、Petabit 级无阻塞网络以及带有 FSx for Lustre 的可扩展低延迟存储组成。每个 EC2 UltraCluster 都提供超级计算机级的性能，使您能够解决最复杂的跨节点 ML 训练任务。

对于 ML 推理，基于 AWS Inferentia 的 Inf1 实例提供了云端最低成本的推理方案。此外，配备 NVIDIA T4 GPU 的 Amazon EC2 G4dn 实例 针对基于 GPU 的机器学习推理和利用 NVIDIA 库的小规模训练进行了优化。

创建并启动实例

选定实例类型后，您需要创建、配置（可选）并启动您的实例。您可以从 Web 浏览器或命令行界面连接到实例。以下是针对各种平台的实例启动指南：

• Linux
• Windows
• 命令行

Amazon SageMaker

通过 SageMaker 服务，AWS 提供了一项完全托管的服务，允许开发人员和数据科学家构建、训练和部署机器学习模型。

参阅 AWS 文档了解如何配置 Amazon SageMaker 与 PyTorch。

预构建 AMI

AWS 提供预装现代版本 PyTorch 的实例（称为 AWS 深度学习 AMI）。可用的 AMI 包括：

• Ubuntu
• Amazon Linux
• Windows 2016

Amazon 编写了一篇关于如何使用预构建 AMI 入门的优秀博文。

从零开始安装 PyTorch

您可能更倾向于从纯净实例开始安装 PyTorch。连接到实例后，设置 PyTorch 的过程与您在所选操作系统上进行本地设置相同。