可用的 GPU

N1 机器系列

N1 通用机器系列支持多种 GPU 模型，指定任何 N1 机器类型的工作站配置还可以指定以下 GPU 模型之一。对于所选的 GPU 型号，配置可以指定连接到每个工作站的 GPU 卡数量。

A2 机器系列

A2 标准加速器优化机器系列挂接了固定数量的 NVIDIA A100 GPU，该 GPU 仅基于所选的机器类型。

下表显示了从机器类型到将挂接的卡数量的映射。

控制台

当您使用 Google Cloud 控制台访问 Google Cloud 服务和 API 时，无需设置身份验证。

gcloud

安装 Google Cloud CLI，然后通过运行以下命令初始化 Google Cloud CLI：

gcloud init

控制台

通过执行以下操作，通过 Google Cloud 控制台在现有工作站配置上配置 GPU：

1. 在 Google Cloud 控制台中，前往工作站配置页面。

   前往“工作站配置”

2. 在工作站配置列表中，点击要添加 GPU 的配置的名称名称。

3. 在工作站配置详情页面上，点击 edit 修改。

4. 在修改工作站配置页面上，点击导航菜单中的机器设置。

5. 点击切换开关以选择 GPU，而不是通用机器系列。

   在 GPU 类型字段中，选择要使用的 GPU 型号。

   在 GPU 数量字段中，选择要连接到每个工作站的 GPU 卡的数量。

   在机器类型字段中，选择要使用的机器类型。

6. 点击保存以更新配置。

gcloud

运行 gcloud workstations configs update 命令，在现有工作站配置上配置 GPU。

不过，请先收集一些信息，看看有哪些 GPU 模型可用，并为您的配置选择一个模型：

1. 通过运行以下 gcloud CLI 命令，检查配置指定了哪些副本可用区：

   gcloud workstations configs describe \
     --format="table(name.scope(workstationConfigs),replicaZones.list())" \
     --project=PROJECT_ID \
     --region=LOCATION \
     --cluster=WORKSTATION_CLUSTER_ID \
     WORKSTATION_CONFIG_ID
   

   请替换以下内容：

   • PROJECT_ID：包含工作站配置的项目的 ID。
   • LOCATION：工作站集群的位置。
   • WORKSTATION_CLUSTER_ID：包含工作站配置的工作站集群的名称。
   • WORKSTATION_CONFIG_ID：工作站配置的名称。

2. 运行 gcloud compute accelerator-types list 命令，选择在配置的两个副本可用区中都可用的受支持 GPU 模型：

   gcloud compute accelerator-types list \
     --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
     --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
     --project=PROJECT_ID
   

   将 ZONES 替换为上一步中确定的副本区域的英文逗号分隔列表（例如 us-central1-a,us-central1-c）。

   选择一个在表中列出两次的 GPU 型号，表示它在两个副本可用区中都可用。

   记下所选 GPU 型号可以附加的卡数上限。

3. 使用 gcloud compute machine-types list 命令，确定配置的两个副本可用区中提供了哪些受支持的机器类型。

   1. 如果您在上一步中选择了 NVIDIA A100 40GB GPU 型号，则您的配置必须使用 A2 机器系列：

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

   2. 如果您在上一步中选择了任何其他 GPU 型号，则您的配置必须使用 N1 机器系列：

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

   选择表中列出两次的机器类型，表示它在两个副本可用区中都可用。

4. 现在，您已经选择了 GPU 型号和兼容的机器类型，请更新配置：

   1. 对于 NVIDIA A100 40 GB GPU，请运行以下命令来更新您的配置：

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      将 A2_MACHINE_TYPE 替换为上一步中确定的所选 A2 机器类型（例如 a2-highgpu-1g）。

   2. 对于所有其他 GPU 型号，请运行以下命令：

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \ß
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      请替换以下内容：

      • N1_MACHINE_TYPE：从 N1 系列中选择的机器类型（例如 n1-standard-2）。
      • ACCELERATOR_TYPE：所选 GPU 模型的名称（例如 nvidia-tesla-t4）。
      • ACCELERATOR_COUNT：要连接到每个工作站的 GPU 数量（例如 1、2 和 4）。该数必须是小于 GPU 型号最大值的 2 的幂。

控制台

当您使用 Google Cloud 控制台访问 Google Cloud 服务和 API 时，无需设置身份验证。

gcloud

安装 Google Cloud CLI，然后通过运行以下命令初始化 Google Cloud CLI：

gcloud init

REST

如需在本地开发环境中使用本页面上的 REST API 示例，请使用您提供给 gcloud CLI 的凭据。

安装 Google Cloud CLI，然后通过运行以下命令初始化 Google Cloud CLI：

gcloud init

控制台

通过执行以下操作，从 Google Cloud 控制台创建具有 GPU 的新工作站配置：

1. 在 Google Cloud 控制台中，前往工作站配置页面。

   前往“工作站配置”

2. 在工作站配置页面上，点击 add_box 创建。

3. 在创建工作站配置页面的基本信息步骤中，在名称字段中为配置指定一个名称。

   在工作站集群字段中，选择所选区域中的一个集群。

   点击继续，进入机器设置步骤。

4. 在创建工作站配置页面的机器设置步骤中，首先点击切换开关以选择 GPU，而不是通用机器系列。

   1. 然后，在可用区字段中，选中您所选 GPU 模型可用的两个可用区旁边的复选框（请参阅 GPU 可用性表）。

   2. 在 GPU 类型字段中，选择要使用的 GPU 型号。

   3. 在 GPU 数量字段中，选择要连接到每个工作站的 GPU 卡的数量。

   4. 在机器类型字段中，选择兼容的机器类型。

5. 点击继续以配置环境设置和 IAM 政策，然后点击创建以预配新的工作站配置。

gcloud

运行 gcloud workstations configs create 命令，使用 gcloud CLI 创建带有 GPU 的新工作站配置。

• 对于 NVIDIA A100 40GB GPU，请运行以下命令以创建配置：

  gcloud beta workstations configs create \
    --project=PROJECT_ID \
    --region=LOCATION \
    --cluster=WORKSTATION_CLUSTER_ID \
    WORKSTATION_CONFIG_ID \
    --replica-zones=REPLICA_ZONES \
    --machine-type=A2_MACHINE_TYPE
  

  请替换以下内容：

  • PROJECT_ID：将包含新工作站配置的项目的 ID。
  • LOCATION：将包含配置的工作站集群的位置。
  • WORKSTATION_CLUSTER_ID：将包含新工作站配置的工作站集群的名称。
  • WORKSTATION_CONFIG_ID：新工作站配置的名称。
  • REPLICA_ZONES：集群区域内提供所选 GPU 模型的两个可用区（例如 us-central1-a,us-central1-c），正好是两个。
  • A2_MACHINE_TYPE：所选的 A2 系列机器类型（例如 a2-highgpu-1g）。

• 对于所有其他 GPU 型号，请运行以下命令创建配置：

  gcloud beta workstations configs create \
    --project=PROJECT_ID \
    --region=LOCATION \
    --cluster=WORKSTATION_CLUSTER_ID \
    WORKSTATION_CONFIG_ID \
    --replica-zones=REPLICA_ZONES \
    --machine-type=N1_MACHINE_TYPE \
    --accelerator-type=ACCELERATOR_TYPE \
    --accelerator-count=ACCELERATOR_COUNT
  

  请替换以下内容：

  • PROJECT_ID：将包含新工作站配置的项目的 ID。
  • LOCATION：将包含配置的工作站集群的位置。
  • WORKSTATION_CLUSTER_ID：将包含新工作站配置的工作站集群的名称。
  • WORKSTATION_CONFIG_ID：新工作站配置的名称。
  • REPLICA_ZONES：集群区域内提供所选 GPU 模型的两个可用区（例如 us-central1-a,us-central1-c），正好是两个。
  • N1_MACHINE_TYPE：所选的 N1 系列机器类型（例如 n1-standard-2）。
  • ACCELERATOR_TYPE：所选 GPU 模型的名称（例如 nvidia-tesla-t4）。
  • ACCELERATOR_COUNT：要连接到每个工作站的 GPU 数量（例如 1、2、4）。