Configuração para o Ray na Vertex AI

Antes de começar a usar o Ray na Vertex AI, siga as etapas para configurar o projeto do Google, o SDK da Vertex AI para Python e a rede de peering de VPC:

  1. Siga as etapas em Configurar um projeto e um ambiente de desenvolvimento para definir o faturamento do seu projeto, ativar a API Vertex AI e instalar a gcloud CLI.

  2. Se ainda não tiver feito isto, ative a API Compute Engine e a API Service Networking:

    Ativar as APIs

  3. Pré-requisitos: você precisa saber como desenvolver programas usando o Ray de código aberto.

  4. Configure uma rede VPC com peering e uma conexão de serviços particulares para acessar a Vertex AI. Para se conectar ao nó principal no cluster Ray usando o SDK da Vertex AI para Python, o ambiente de conexão (por exemplo, a VM do Compute Engine ou o notebook do Vertex AI Workbench) precisa estar na mesma rede VPC em peering que o cluster.

    • Se você estiver usando o Ray na Vertex AI no console do Google Cloud, é possível configurar a conexão de acesso a serviços particulares enquanto cria o cluster do Ray na Vertex AI.

  5. O Ray no SDK da Vertex AI para Python usado aqui é uma versão do SDK da Vertex AI para Python que inclui a funcionalidade do Ray Client, conector do Ray no BigQuery, Ray gerenciamento de clusters e previsões na Vertex AI.

    • Se você estiver usando o Ray na Vertex AI no console do Google Cloud, um notebook do Colab Enterprise vai orientar você pelo processo de instalação do SDK da Vertex AI para Python depois que você criar um cluster do Ray na IA generativa.

    • Se você estiver usando o Ray na Vertex AI no Vertex AI Workbench ou em outro ambiente Python interativo, instale o SDK da Vertex AI para Python:

      # The latest image in the Ray cluster includes Ray 2.9
# The latest supported Python version is Python 3.10.
$ pip install google-cloud-aiplatform[ray]

      Depois de instalar o SDK, reinicie o kernel antes de importar pacotes.

  6. O número total máximo de nós no cluster do Ray na Vertex AI que pode ser escalonado verticalmente (M) depende do número total inicial de nós que você configurou (N). Depois de criar o cluster do Ray na Vertex AI, é possível escalonar o número total de nós para qualquer valor entre P e M, em que P é o número de pools do cluster.

    Considerando f(x) = min(29, (32 - ceiling(log2(x))), use as seguintes fórmulas para não exceder o número máximo de nós (M):

    • f(2 * M) = f(2 * N)
    • f(64 * M) = f(64 * N)
    • f(max(32, 16 + M)) = f(max(32, 16 + N))

  7. (Opcional) Se você pretende fazer leituras pelo BigQuery, crie um novo conjunto de dados do BigQuery ou use um que já existe.

  8. (Opcional) Para reduzir o risco de exfiltração de dados da Vertex AI, ative o VPC Service Controls. Para mais informações, consulte VPC Service Controls com a Vertex AI.

    Se você ativar o VPC Service Controls, não será possível acessar recursos fora do perímetro, como arquivos em um bucket do Cloud Storage.

Locais suportados

A tabela Disponibilidade de recursos no treinamento de modelos personalizados lista os locais disponíveis do Ray na Vertex AI.

A seguir