Usa Private Service Connect per accedere alle previsioni batch di Vertex AI da on-premise

Crea le reti VPC

In questa sezione creerai due reti VPC: una per l'accesso alle API di Google per la previsione batch e l'altra per simulare una rete on-premise. In ciascuna delle due reti VPC, crea un router Cloud e un gateway Cloud NAT. Un gateway Cloud NAT fornisce connettività in uscita per le istanze di macchine virtuali (VM) Compute Engine senza indirizzi IP esterni.

1. Crea la rete VPC vertex-networking-vpc:

   gcloud compute networks create vertex-networking-vpc \
     --subnet-mode custom
   

2. Nella rete vertex-networking-vpc, crea una subnet denominata workbench-subnet, con un intervallo IPv4 principale pari a 10.0.1.0/28:

   gcloud compute networks subnets create workbench-subnet \
     --range=10.0.1.0/28 \
     --network=vertex-networking-vpc \
     --region=us-central1 \
     --enable-private-ip-google-access
   

3. Crea la rete VPC per simulare la rete on-premise (onprem-vpc):

   gcloud compute networks create onprem-vpc \
     --subnet-mode custom
   

4. Nella rete onprem-vpc, crea una subnet denominata onprem-vpc-subnet1, con un intervallo IPv4 principale 172.16.10.0/29:

   gcloud compute networks subnets create onprem-vpc-subnet1 \
     --network onprem-vpc \
     --range 172.16.10.0/29 \
     --region us-central1
   

Verifica che le reti VPC siano configurate correttamente

1. Nella console Google Cloud, vai alla scheda Reti nel progetto attuale nella pagina Reti VPC.

   Vai a Reti VPC

2. Nell'elenco delle reti VPC, verifica che siano state create le due reti: vertex-networking-vpc e onprem-vpc.

3. Fai clic sulla scheda Subnet nel progetto corrente.

4. Nell'elenco delle subnet VPC, verifica che le subnet workbench-subnet e onprem-vpc-subnet1 siano state create.

Configura la connettività ibrida

In questa sezione creerai due gateway VPN ad alta disponibilità connessi tra loro. Uno si trova nella rete VPC vertex-networking-vpc. L'altro si trova nella rete VPC onprem-vpc. Ogni gateway contiene un router Cloud e una coppia di tunnel VPN.

Crea i gateway VPN ad alta disponibilità

1. In Cloud Shell, crea il gateway VPN ad alta disponibilità per la rete VPC vertex-networking-vpc:

   gcloud compute vpn-gateways create vertex-networking-vpn-gw1 \
      --network vertex-networking-vpc \
      --region us-central1
   

2. Crea il gateway VPN ad alta disponibilità per la rete VPC onprem-vpc:

   gcloud compute vpn-gateways create onprem-vpn-gw1 \
      --network onprem-vpc \
      --region us-central1
   

3. Nella console Google Cloud, vai alla scheda Gateway Cloud VPN nella pagina VPN.

   Vai alla VPN

4. Verifica che i due gateway (vertex-networking-vpn-gw1 e onprem-vpn-gw1) siano stati creati e che ogni gateway abbia due indirizzi IP di interfaccia.

crea router Cloud e gateway Cloud NAT

In ciascuna delle due reti VPC, crei due router Cloud: uno generale e uno a livello di regione. In ognuno dei router Cloud a livello di regione, crea un gateway Cloud NAT. I gateway Cloud NAT forniscono connettività in uscita per le istanze di macchine virtuali (VM) Compute Engine che non hanno indirizzi IP esterni.

1. In Cloud Shell, crea un router Cloud per la rete VPC vertex-networking-vpc:

   gcloud compute routers create vertex-networking-vpc-router1 \
      --region us-central1\
      --network vertex-networking-vpc \
      --asn 65001
   

2. Crea un router Cloud per la rete VPC onprem-vpc:

   gcloud compute routers create onprem-vpc-router1 \
      --region us-central1\
      --network onprem-vpc\
      --asn 65002
   

3. Crea un router Cloud a livello di regione per la rete VPC vertex-networking-vpc:

   gcloud compute routers create cloud-router-us-central1-vertex-nat \
     --network vertex-networking-vpc \
     --region us-central1
   

4. Configura un gateway Cloud NAT sul router Cloud a livello di regione:

   gcloud compute routers nats create cloud-nat-us-central1 \
     --router=cloud-router-us-central1-vertex-nat \
     --auto-allocate-nat-external-ips \
     --nat-all-subnet-ip-ranges \
     --region us-central1
   

5. Crea un router Cloud a livello di regione per la rete VPC onprem-vpc:

   gcloud compute routers create cloud-router-us-central1-onprem-nat \
     --network onprem-vpc \
     --region us-central1
   

6. Configura un gateway Cloud NAT sul router Cloud a livello di regione:

   gcloud compute routers nats create cloud-nat-us-central1-on-prem \
     --router=cloud-router-us-central1-onprem-nat \
     --auto-allocate-nat-external-ips \
     --nat-all-subnet-ip-ranges \
     --region us-central1
   

7. Nella console Google Cloud, vai alla pagina Router Cloud.

   Vai ai router Cloud

8. Nell'elenco Router Cloud, verifica che siano stati creati i seguenti router:

   • cloud-router-us-central1-onprem-nat
   • cloud-router-us-central1-vertex-nat
   • onprem-vpc-router1
   • vertex-networking-vpc-router1

   Per visualizzare i nuovi valori, potrebbe essere necessario aggiornare la scheda del browser della console Google Cloud.

9. Nell'elenco dei router Cloud, fai clic su cloud-router-us-central1-vertex-nat.

10. Nella pagina Dettagli router, verifica che il gateway Cloud NAT cloud-nat-us-central1 sia stato creato.

11. Fai clic sulla arrow_backFreccia indietro per tornare alla pagina Router Cloud.

12. Nell'elenco di router, fai clic su cloud-router-us-central1-onprem-nat.

13. Nella pagina Dettagli router, verifica che il gateway Cloud NAT cloud-nat-us-central1-on-prem sia stato creato.

Crea tunnel VPN

1. In Cloud Shell, nella rete vertex-networking-vpc, crea un tunnel VPN denominato vertex-networking-vpc-tunnel0:

   gcloud compute vpn-tunnels create vertex-networking-vpc-tunnel0 \
     --peer-gcp-gateway onprem-vpn-gw1 \
     --region us-central1 \
     --ike-version 2 \
     --shared-secret [ZzTLxKL8fmRykwNDfCvEFIjmlYLhMucH] \
     --router vertex-networking-vpc-router1 \
     --vpn-gateway vertex-networking-vpn-gw1 \
     --interface 0
   

2. Nella rete vertex-networking-vpc, crea un tunnel VPN denominato vertex-networking-vpc-tunnel1:

   gcloud compute vpn-tunnels create vertex-networking-vpc-tunnel1 \
     --peer-gcp-gateway onprem-vpn-gw1 \
     --region us-central1 \
     --ike-version 2 \
     --shared-secret [bcyPaboPl8fSkXRmvONGJzWTrc6tRqY5] \
     --router vertex-networking-vpc-router1 \
     --vpn-gateway vertex-networking-vpn-gw1 \
     --interface 1
   

3. Nella rete onprem-vpc, crea un tunnel VPN denominato onprem-vpc-tunnel0:

   gcloud compute vpn-tunnels create onprem-vpc-tunnel0 \
     --peer-gcp-gateway vertex-networking-vpn-gw1 \
     --region us-central1\
     --ike-version 2 \
     --shared-secret [ZzTLxKL8fmRykwNDfCvEFIjmlYLhMucH] \
     --router onprem-vpc-router1 \
     --vpn-gateway onprem-vpn-gw1 \
     --interface 0
   

4. Nella rete onprem-vpc, crea un tunnel VPN denominato onprem-vpc-tunnel1:

   gcloud compute vpn-tunnels create onprem-vpc-tunnel1 \
     --peer-gcp-gateway vertex-networking-vpn-gw1 \
     --region us-central1\
     --ike-version 2 \
     --shared-secret [bcyPaboPl8fSkXRmvONGJzWTrc6tRqY5] \
     --router onprem-vpc-router1 \
     --vpn-gateway onprem-vpn-gw1 \
     --interface 1
   

5. Nella console Google Cloud, vai alla pagina VPN.

   Vai alla VPN

6. Nell'elenco dei tunnel VPN, verifica che siano stati creati i quattro tunnel VPN.

Definizione di sessioni BGP

Il router Cloud utilizza il protocollo BGP (Border Gateway Protocol) per scambiare le route tra la tua rete VPC (in questo caso, vertex-networking-vpc) e la tua rete on-premise (rappresentata da onprem-vpc). Sul router Cloud, configuri un'interfaccia e un peer BGP per il tuo router on-premise. L'interfaccia e la configurazione del peer BGP formano insieme una sessione BGP. In questa sezione creerai due sessioni BGP per vertex-networking-vpc e due per onprem-vpc.

Una volta configurate le interfacce e i peer BGP tra i router, questi inizieranno automaticamente a scambiare le route.

Stabilisci sessioni BGP per vertex-networking-vpc

1. In Cloud Shell, nella rete vertex-networking-vpc, crea un'interfaccia BGP per vertex-networking-vpc-tunnel0:

   gcloud compute routers add-interface vertex-networking-vpc-router1 \
     --interface-name if-tunnel0-to-onprem \
     --ip-address 169.254.0.1 \
     --mask-length 30 \
     --vpn-tunnel vertex-networking-vpc-tunnel0 \
     --region us-central1
   

2. Nella rete vertex-networking-vpc, crea un peer BGP per bgp-onprem-tunnel0:

   gcloud compute routers add-bgp-peer vertex-networking-vpc-router1 \
     --peer-name bgp-onprem-tunnel0 \
     --interface if-tunnel0-to-onprem \
     --peer-ip-address 169.254.0.2 \
     --peer-asn 65002 \
     --region us-central1
   

3. Nella rete vertex-networking-vpc, crea un'interfaccia BGP per vertex-networking-vpc-tunnel1:

   gcloud compute routers add-interface vertex-networking-vpc-router1 \
     --interface-name if-tunnel1-to-onprem \
     --ip-address 169.254.1.1 \
     --mask-length 30 \
     --vpn-tunnel vertex-networking-vpc-tunnel1 \
     --region us-central1
   

4. Nella rete vertex-networking-vpc, crea un peer BGP per bgp-onprem-tunnel1:

   gcloud compute routers add-bgp-peer vertex-networking-vpc-router1 \
     --peer-name bgp-onprem-tunnel1 \
     --interface if-tunnel1-to-onprem \
     --peer-ip-address 169.254.1.2 \
     --peer-asn 65002 \
     --region us-central1
   

Stabilisci sessioni BGP per onprem-vpc

1. Nella rete onprem-vpc, crea un'interfaccia BGP per onprem-vpc-tunnel0:

   gcloud compute routers add-interface onprem-vpc-router1 \
     --interface-name if-tunnel0-to-vertex-networking-vpc \
     --ip-address 169.254.0.2 \
     --mask-length 30 \
     --vpn-tunnel onprem-vpc-tunnel0 \
     --region us-central1
   

2. Nella rete onprem-vpc, crea un peer BGP per bgp-vertex-networking-vpc-tunnel0:

   gcloud compute routers add-bgp-peer onprem-vpc-router1 \
     --peer-name bgp-vertex-networking-vpc-tunnel0 \
     --interface if-tunnel0-to-vertex-networking-vpc \
     --peer-ip-address 169.254.0.1 \
     --peer-asn 65001 \
     --region us-central1
   

3. Nella rete onprem-vpc, crea un'interfaccia BGP per onprem-vpc-tunnel1:

   gcloud compute routers add-interface   onprem-vpc-router1  \
     --interface-name if-tunnel1-to-vertex-networking-vpc \
     --ip-address 169.254.1.2 \
     --mask-length 30 \
     --vpn-tunnel onprem-vpc-tunnel1 \
     --region us-central1
   

4. Nella rete onprem-vpc, crea un peer BGP per bgp-vertex-networking-vpc-tunnel1:

   gcloud compute routers add-bgp-peer onprem-vpc-router1 \
     --peer-name bgp-vertex-networking-vpc-tunnel1 \
     --interface if-tunnel1-to-vertex-networking-vpc \
     --peer-ip-address 169.254.1.1 \
     --peer-asn 65001 \
     --region us-central1
   

Convalida la creazione di sessioni BGP

1. Nella console Google Cloud, vai alla pagina VPN.

   Vai alla VPN

2. Nell'elenco dei tunnel VPN, verifica che il valore nella colonna Stato sessione BGP per ciascuno dei tunnel sia cambiato da Configura sessione BGP in BGP stabilito. Per visualizzare i nuovi valori, potresti dover aggiornare la scheda del browser della console Google Cloud.

Convalida vertex-networking-vpc route apprese

1. Nella console Google Cloud, vai alla pagina Reti VPC.

   Vai a Reti VPC

2. Nell'elenco delle reti VPC, fai clic su vertex-networking-vpc.

3. Fai clic sulla scheda Route.

4. Seleziona us-central1 (Iowa) nell'elenco Regione e fai clic su Visualizza.

5. Nella colonna Intervallo IP di destinazione, verifica che l'intervallo IP della subnet onprem-vpc-subnet1 (172.16.10.0/29) sia presente due volte.

Convalida onprem-vpc route apprese

1. Fai clic sulla arrow_backFreccia indietro per tornare alla pagina Reti VPC.

2. Nell'elenco delle reti VPC, fai clic su onprem-vpc.

3. Fai clic sulla scheda Route.

4. Seleziona us-central1 (Iowa) nell'elenco Regione e fai clic su Visualizza.

5. Nella colonna Intervallo IP di destinazione, verifica che l'intervallo IP di subnet workbench-subnet (10.0.1.0/28) sia presente due volte.

Crea l'endpoint consumer Private Service Connect

1. In Cloud Shell, prenota un indirizzo IP dell'endpoint consumer che verrà utilizzato per accedere alle API di Google:

   gcloud compute addresses create psc-googleapi-ip \
     --global \
     --purpose=PRIVATE_SERVICE_CONNECT \
     --addresses=192.168.0.1 \
     --network=vertex-networking-vpc
   

2. Crea una regola di forwarding per connettere l'endpoint alle API e ai servizi Google.

   gcloud compute forwarding-rules create pscvertex \
    --global \
    --network=vertex-networking-vpc\
    --address=psc-googleapi-ip \
    --target-google-apis-bundle=all-apis
   

Crea annunci di route personalizzati per vertex-networking-vpc

In questa sezione creerai un annuncio di route personalizzata per vertex-networking-vpc-router1 (il router Cloud di vertex-networking-vpc) per pubblicizzare l'indirizzo IP dell'endpoint PSC alla rete onprem-vpc.

1. Nella console Google Cloud, vai alla pagina Router Cloud.

   Vai ai router Cloud

2. Nell'elenco di router Cloud, fai clic su vertex-networking-vpc-router1.

3. Nella pagina Dettagli router, fai clic su editModifica.

4. Nella sezione Route annunciate, per Route seleziona Crea route personalizzate.

5. Seleziona la casella di controllo Pubblicizza tutte le subnet visibili al router Cloud per continuare a pubblicizzare le subnet disponibili per il router Cloud. L'attivazione di questa opzione imita il comportamento del router Cloud nella modalità pubblicitaria predefinita.

6. Fai clic su Aggiungi una route personalizzata.

7. In Origine, seleziona Intervallo IP personalizzato.

8. In Intervallo di indirizzi IP, inserisci il seguente indirizzo IP:

   192.168.0.1
   

9. In Descrizione, inserisci il seguente testo:

   Custom route to advertise Private Service Connect endpoint IP address
   

10. Fai clic su Fine, poi su Salva.

Verifica che onprem-vpc abbia appreso le route annunciate

1. Nella console Google Cloud, vai alla pagina Route.

   Vai a Routes

2. Nella scheda Route operative, segui questi passaggi:

   1. In corrispondenza di Rete, scegli onprem-vpc.
   2. In corrispondenza di Regione, scegli us-central1 (Iowa).
   3. Fai clic su Visualizza.

   4. Nell'elenco delle route, verifica che siano presenti voci i cui nomi iniziano con onprem-vpc-router1-bgp-vertex-networking-vpc-tunnel0 e onprem-vpc-router1-bgp-vfertex-networking-vpc-tunnel1 e che entrambe abbiano un intervallo IP di destinazione di 192.168.0.1.

      Se queste voci non vengono visualizzate immediatamente, attendi qualche minuto e poi aggiorna la scheda del browser della console Google Cloud.

Crea in onprem-vpc una VM che utilizza un account di servizio gestito dall'utente

In questa sezione creerai un'istanza VM che simula un'applicazione client on-premise che invia richieste di previsione batch. Seguendo le best practice di Compute Engine e IAM, questa VM utilizza un account di servizio gestito dall'utente anziché l'account di servizio predefinito di Compute Engine.

Creare un account di servizio gestito dall'utente

1. In Cloud Shell, esegui questi comandi, sostituendo PROJECT_ID con il tuo ID progetto:

   projectid=PROJECT_ID
   gcloud config set project ${projectid}
   

2. Crea un account di servizio denominato onprem-user-managed-sa:

   gcloud iam service-accounts create onprem-user-managed-sa \
     --display-name="onprem-user-managed-sa-onprem-client"
   

3. Assegna il ruolo Utente Vertex AI (roles/aiplatform.user) all'account di servizio:

   gcloud projects add-iam-policy-binding $projectid \
     --member="serviceAccount:onprem-user-managed-sa@$projectid.iam.gserviceaccount.com" \
     --role="roles/aiplatform.user"
   

4. Assegna il ruolo Visualizzatore oggetti Storage (storage.objectViewer) all'account di servizio:

   gcloud projects add-iam-policy-binding $projectid \
     --member="serviceAccount:onprem-user-managed-sa@$projectid.iam.gserviceaccount.com" \
     --role="roles/storage.objectViewer"
   

Crea l'istanza VM on-prem-client

L'istanza VM che crei non ha un indirizzo IP esterno e non consente l'accesso diretto su internet. Per abilitare l'accesso amministrativo alla VM, utilizza l'inoltro TCP di Identity-Aware Proxy (IAP).

1. In Cloud Shell, crea l'istanza VM on-prem-client:

   gcloud compute instances create on-prem-client \
     --zone=us-central1-a \
     --image-family=debian-11 \
     --image-project=debian-cloud \
     --subnet=onprem-vpc-subnet1 \
     --scopes=http://www.googleapis.com/auth/cloud-platform \
     --no-address \
     --shielded-secure-boot \
     --service-account=onprem-user-managed-sa@$projectid.iam.gserviceaccount.com \
     --metadata startup-script="#! /bin/bash
       sudo apt-get update
       sudo apt-get install tcpdump dnsutils -y"
   
   

2. Crea una regola firewall per consentire a IAP di connettersi alla tua istanza VM:

   gcloud compute firewall-rules create ssh-iap-on-prem-vpc \
     --network onprem-vpc \
     --allow tcp:22 \
     --source-ranges=35.235.240.0/20
   

Convalida l'accesso pubblico all'API Vertex AI

In questa sezione utilizzerai l'utilità dig per eseguire una ricerca DNS dall'istanza VM on-prem-client all'API Vertex AI (us-central1-aiplatform.googleapis.com). L'output dig mostra che l'accesso predefinito utilizza solo i VIP pubblici per accedere all'API Vertex AI.

Nella sezione successiva configurerai l'accesso privato all'API Vertex AI.

1. In Cloud Shell, accedi all'istanza VM on-prem-client utilizzando IAP:

   gcloud compute ssh on-prem-client \
     --zone=us-central1-a \
     --tunnel-through-iap
   

2. Nell'istanza VM on-prem-client, esegui il comando dig:

   dig us-central1-aiplatform.googleapis.com
   

   Dovresti vedere un output dig simile al seguente, dove gli indirizzi IP nella sezione della risposta sono indirizzi IP pubblici:

   ; <<>> DiG 9.16.44-Debian <<>> us-central1.aiplatfom.googleapis.com
   ;; global options: +cmd
   ;; Got answer:
   ;; ->>HEADER<<- opcode: QUERY, status: NOERROR, id: 42506
   ;; flags: qr rd ra; QUERY: 1, ANSWER: 16, AUTHORITY: 0, ADDITIONAL: 1
   
   ;; OPT PSEUDOSECTION:
   ; EDNS: version: 0, flags:; udp: 512
   ;; QUESTION SECTION:
   ;us-central1.aiplatfom.googleapis.com. IN A
   
   ;; ANSWER SECTION:
   us-central1.aiplatfom.googleapis.com. 300 IN A  173.194.192.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  142.250.152.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  172.217.219.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  209.85.146.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  209.85.147.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  142.250.125.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  142.250.136.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  142.250.148.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  209.85.200.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  209.85.234.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  142.251.171.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  108.177.112.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  142.250.128.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  142.251.6.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  172.217.212.95
   us-central1.aiplatfom.googleapis.com. 300 IN A  74.125.124.95
   
   ;; Query time: 8 msec
   ;; SERVER: 169.254.169.254#53(169.254.169.254)
   ;; WHEN: Wed Sep 27 04:10:16 UTC 2023
   ;; MSG SIZE  rcvd: 321
   

Configurare e convalidare l'accesso privato all'API Vertex AI

In questa sezione configurerai l'accesso privato all'API Vertex AI in modo che, quando invii richieste di previsione batch, vengano reindirizzate al tuo endpoint PSC. L'endpoint PSC a sua volta inoltra queste richieste private all'API REST per la previsione batch di Vertex AI.

Aggiorna il file /etc/hosts in modo che punti all'endpoint PSC

In questo passaggio, aggiungerai una riga al file /etc/hosts che comporta il reindirizzamento delle richieste inviate all'endpoint di servizio pubblico (us-central1-aiplatform.googleapis.com) all'endpoint PSC (192.168.0.1).

1. Nell'istanza VM on-prem-client, utilizza un editor di testo come vim o nano per aprire il file /etc/hosts:

   sudo vim /etc/hosts
   

2. Aggiungi la seguente riga al file:

   192.168.0.1 us-central1-aiplatform.googleapis.com
   

   Questa riga assegna l'indirizzo IP dell'endpoint PSC (192.168.0.1) al nome di dominio completo per l'API di Google Vertex AI (us-central1-aiplatform.googleapis.com).

   Il file modificato dovrebbe avere il seguente aspetto:

   127.0.0.1       localhost
   ::1             localhost ip6-localhost ip6-loopback
   ff02::1         ip6-allnodes
   ff02::2         ip6-allrouters
   
   192.168.0.1 us-central1-aiplatform.googleapis.com  # Added by you
   172.16.10.6 on-prem-client.us-central1-a.c.vertex-genai-400103.internal on-prem-client  # Added by Google
   169.254.169.254 metadata.google.internal  # Added by Google
   

3. Salva il file come segue:

   • Se utilizzi vim, premi il tasto Esc, quindi digita :wq per salvare il file e uscire.
   • Se utilizzi nano, digita Control+O e premi Enter per salvare il file, poi digita Control+X per uscire.

4. Esegui il ping dell'endpoint Vertex AI come segue:

   ping us-central1-aiplatform.googleapis.com
   

   Il comando ping dovrebbe restituire il seguente output. 192.168.0.1 è l'indirizzo IP dell'endpoint PSC:

   PING us-central1-aiplatform.googleapis.com (192.168.0.1) 56(84) bytes of data.
   

5. Digita Control+C per uscire da ping.

6. Digita exit per uscire dall'istanza VM on-prem-client.

Crea un account di servizio gestito dall'utente per Vertex AI Workbench in vertex-networking-vpc

In questa sezione, per controllare l'accesso all'istanza di Vertex AI Workbench, dovrai creare un account di servizio gestito dall'utente e assegnare ruoli IAM all'account di servizio. Quando crei l'istanza, specifichi l'account di servizio.

1. In Cloud Shell, esegui questi comandi, sostituendo PROJECT_ID con il tuo ID progetto:

   projectid=PROJECT_ID
   gcloud config set project ${projectid}
   

2. Crea un account di servizio denominato workbench-sa:

   gcloud iam service-accounts create workbench-sa \
     --display-name="workbench-sa"
   

3. Assegna il ruolo IAM Utente Vertex AI (roles/aiplatform.user) all'account di servizio:

   gcloud projects add-iam-policy-binding $projectid \
     --member="serviceAccount:workbench-sa@$projectid.iam.gserviceaccount.com" \
     --role="roles/aiplatform.user"
   

4. Assegna il ruolo IAM Utente BigQuery (roles/bigquery.user) all'account di servizio:

   gcloud projects add-iam-policy-binding $projectid \
     --member="serviceAccount:workbench-sa@$projectid.iam.gserviceaccount.com" \
     --role="roles/bigquery.user"
   

5. Assegna il ruolo IAM Amministratore archiviazione (roles/storage.admin) all'account di servizio:

   gcloud projects add-iam-policy-binding $projectid \
     --member="serviceAccount:workbench-sa@$projectid.iam.gserviceaccount.com" \
     --role="roles/storage.admin"
   

6. Assegna il ruolo IAM Visualizzatore log (roles/logging.viewer) all'account di servizio:

   gcloud projects add-iam-policy-binding $projectid \
     --member="serviceAccount:workbench-sa@$projectid.iam.gserviceaccount.com" \
     --role="roles/logging.viewer"
   

Crea l'istanza di Vertex AI Workbench

1. In Cloud Shell, crea un'istanza di Vertex AI Workbench, specificando l'account di servizio workbench-sa:

   gcloud workbench instances create workbench-tutorial \
     --vm-image-project=deeplearning-platform-release \
     --vm-image-family=common-cpu-notebooks \
     --machine-type=n1-standard-4 \
     --location=us-central1-a \
     --subnet-region=us-central1 \
     --shielded-secure-boot=True \
     --subnet=workbench-subnet \
     --disable-public-ip \
     --service-account-email=workbench-sa@$projectid.iam.gserviceaccount.com
   

2. Nella console Google Cloud, vai alla scheda Istanze nella pagina Vertex AI Workbench.

   Vai a Vertex AI Workbench

3. Accanto al nome dell'istanza di Vertex AI Workbench (workbench-tutorial), fai clic su Apri JupyterLab.

   L'istanza di Vertex AI Workbench apre JupyterLab.

4. Seleziona File > Nuovo > Blocco note.

5. Dal menu Seleziona kernel, seleziona Python 3 (locale) e fai clic su Seleziona.

6. Quando si apre il nuovo blocco note, c'è una cella di codice predefinita in cui puoi inserire il codice. [ ]: seguito da un campo di testo. Il campo di testo è il campo in cui incolli il codice.

   Per installare l'SDK Vertex AI per Python, incolla il seguente codice nella cella e fai clic su play_arrow Esegui le celle selezionate e avanza:

   !pip3 install --upgrade google-cloud-bigquery scikit-learn==1.2
   

7. In questo passaggio e in ciascuno di quelli seguenti, aggiungi una nuova cella di codice (se necessario) facendo clic su add Inserisci una cella qui sotto, incolla il codice nella cella e fai clic su play_arrow Esegui le celle selezionate e avanza.

   Per utilizzare i pacchetti appena installati in questo runtime Jupyter, devi riavviare il runtime:

   # Restart kernel after installs so that your environment can access the new packages
   import IPython
   
   app = IPython.Application.instance()
   app.kernel.do_shutdown(True)
   

8. Imposta le seguenti variabili di ambiente nel blocco note JupyterLab, sostituendo PROJECT_ID con il tuo ID progetto.

   # set project ID and location
   PROJECT_ID = "PROJECT_ID"
   REGION = "us-central1"
   

9. Crea un bucket Cloud Storage per la gestione temporanea del job di addestramento:

   BUCKET_NAME = f"{PROJECT_ID}-ml-staging"
   BUCKET_URI = f"gs://{BUCKET_NAME}"
   !gsutil mb -l {REGION} -p {PROJECT_ID} {BUCKET_URI}
   

prepara i dati di addestramento

In questa sezione preparerai i dati da utilizzare per addestrare un modello di previsione.

1. Nel tuo blocco note JupyterLab, crea un client BigQuery:

   from google.cloud import bigquery
   bq_client = bigquery.Client(project=PROJECT_ID)
   

2. Recupera i dati dal set di dati pubblico ml_datasets di BigQuery:

   DATA_SOURCE = "bigquery-public-data.ml_datasets.census_adult_income"
   # Define the SQL query to fetch the dataset
   query = f"""
   SELECT * FROM `{DATA_SOURCE}` LIMIT 20000
   """
   # Download the dataset to a dataframe
   df = bq_client.query(query).to_dataframe()
   df.head()
   

3. Utilizza la libreria sklearn per suddividere i dati per l'addestramento e i test:

   from sklearn.model_selection import train_test_split
   # Split the dataset
   X_train, X_test = train_test_split(df, test_size=0.3, random_state=43)
   # Print the shapes of train and test sets
   print(X_train.shape, X_test.shape)
   

4. Esporta i dataframe di addestramento e test in file CSV nel bucket di gestione temporanea:

   X_train.to_csv(f"{BUCKET_URI}/train.csv",index=False, quoting=1, quotechar='"')
   X_test[[i for i in X_test.columns if i != "income_bracket"]].iloc[:20].to_csv(f"{BUCKET_URI}/test.csv",index=False,quoting=1, quotechar='"')
   

Prepara l'applicazione di addestramento

In questa sezione imparerai a creare e creare l'applicazione di addestramento Python, e a salvarla nel bucket di gestione temporanea.

1. Nel tuo blocco note JupyterLab, crea una nuova cartella per i file dell'applicazione di addestramento:

   !mkdir -p training_package/trainer
   

   Ora dovresti vedere una cartella denominata training_package nel menu di navigazione di JupyterLab.

2. Definisci le caratteristiche, il target, l'etichetta e i passaggi per l'addestramento e l'esportazione del modello in un file:

   %%writefile training_package/trainer/task.py
   from sklearn.ensemble import RandomForestClassifier
   from sklearn.feature_selection import SelectKBest
   from sklearn.pipeline import FeatureUnion, Pipeline
   from sklearn.preprocessing import LabelBinarizer
   import pandas as pd
   import argparse
   import joblib
   import os
   
   TARGET = "income_bracket"
   # Define the feature columns that you use from the dataset
   COLUMNS = (
     "age",
     "workclass",
     "functional_weight",
     "education",
     "education_num",
     "marital_status",
     "occupation",
     "relationship",
     "race",
     "sex",
     "capital_gain",
     "capital_loss",
     "hours_per_week",
     "native_country",
   )
   
   # Categorical columns are columns that have string values and
   # need to be turned into a numerical value to be used for training
   CATEGORICAL_COLUMNS = (
     "workclass",
     "education",
     "marital_status",
     "occupation",
     "relationship",
     "race",
     "sex",
     "native_country",
   )
   
   # load the arguments
   parser = argparse.ArgumentParser()
   parser.add_argument('--training-dir', dest='training_dir', default=os.getenv('AIP_MODEL_DIR'), type=str,help='get the staging directory')
   args = parser.parse_args()
   
   # Load the training data
   X_train = pd.read_csv(os.path.join(args.training_dir,"train.csv"))
   # Remove the column we are trying to predict ('income-level') from our features list
   # Convert the Dataframe to a lists of lists
   train_features = X_train.drop(TARGET, axis=1).to_numpy().tolist()
   # Create our training labels list, convert the Dataframe to a lists of lists
   train_labels = X_train[TARGET].to_numpy().tolist()
   
   # Since the census data set has categorical features, we need to convert
   # them to numerical values. We'll use a list of pipelines to convert each
   # categorical column and then use FeatureUnion to combine them before calling
   # the RandomForestClassifier.
   categorical_pipelines = []
   
   # Each categorical column needs to be extracted individually and converted to a numerical value.
   # To do this, each categorical column will use a pipeline that extracts one feature column via
   # SelectKBest(k=1) and a LabelBinarizer() to convert the categorical value to a numerical one.
   # A scores array (created below) will select and extract the feature column. The scores array is
   # created by iterating over the COLUMNS and checking if it is a CATEGORICAL_COLUMN.
   for i, col in enumerate(COLUMNS):
      if col in CATEGORICAL_COLUMNS:
         # Create a scores array to get the individual categorical column.
         # Example:
         #  data = [39, 'State-gov', 77516, 'Bachelors', 13, 'Never-married', 'Adm-clerical',
         #         'Not-in-family', 'White', 'Male', 2174, 0, 40, 'United-States']
         #  scores = [0, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
         #
         # Returns: [['Sate-gov']]
         scores = []
         # Build the scores array
         for j in range(len(COLUMNS)):
            if i == j:  # This column is the categorical column we want to extract.
               scores.append(1)  # Set to 1 to select this column
            else:  # Every other column should be ignored.
               scores.append(0)
         skb = SelectKBest(k=1)
         skb.scores_ = scores
         # Convert the categorical column to a numerical value
         lbn = LabelBinarizer()
         r = skb.transform(train_features)
         lbn.fit(r)
         # Create the pipeline to extract the categorical feature
         categorical_pipelines.append(
            (
               "categorical-{}".format(i),
               Pipeline([("SKB-{}".format(i), skb), ("LBN-{}".format(i), lbn)]),
            )
         )
   
   # Create pipeline to extract the numerical features
   skb = SelectKBest(k=6)
   # From COLUMNS use the features that are numerical
   skb.scores_ = [1, 0, 1, 0, 1, 0, 0, 0, 0, 0, 1, 1, 1, 0]
   categorical_pipelines.append(("numerical", skb))
   
   # Combine all the features using FeatureUnion
   preprocess = FeatureUnion(categorical_pipelines)
   
   # Create the classifier
   classifier = RandomForestClassifier()
   
   # Transform the features and fit them to the classifier
   classifier.fit(preprocess.transform(train_features), train_labels)
   
   # Create the overall model as a single pipeline
   pipeline = Pipeline([("union", preprocess), ("classifier", classifier)])
   
   # Save the model pipeline
   joblib.dump(pipeline, os.path.join(args.training_dir,"model.joblib"))
   

3. Crea un file __init__.py in ogni sottodirectory per renderlo un pacchetto:

   !touch training_package/__init__.py
   !touch training_package/trainer/__init__.py
   

4. Crea uno script di configurazione del pacchetto Python:

   %%writefile training_package/setup.py
   from setuptools import find_packages
   from setuptools import setup
   
   setup(
      name='trainer',
      version='0.1',
      packages=find_packages(),
      include_package_data=True,
      description='Training application package for census income classification.'
   )
   

5. Utilizza il comando sdist per creare la distribuzione di origine dell'applicazione di addestramento:

   !cd training_package && python setup.py sdist --formats=gztar
   

6. Copia il pacchetto Python nel bucket di gestione temporanea:

   !gsutil cp training_package/dist/trainer-0.1.tar.gz $BUCKET_URI/
   

7. Verifica che il bucket di gestione temporanea contenga tre file:

   !gsutil ls $BUCKET_URI
   

   L'output dovrebbe essere:

   gs://$BUCKET_NAME/test.csv
   gs://$BUCKET_NAME/train.csv
   gs://$BUCKET_NAME/trainer-0.1.tar.gz
   

Addestra il modello

In questa sezione addestrerai il modello creando ed eseguendo un job di addestramento personalizzato.

1. Nel tuo blocco note JupyterLab, esegui questo comando per creare un job di addestramento personalizzato:

   !gcloud ai custom-jobs create --display-name=income-classification-training-job \
      --project=$PROJECT_ID \
      --worker-pool-spec=replica-count=1,machine-type='e2-highmem-2',executor-image-uri='us-docker.pkg.dev/vertex-ai/training/sklearn-cpu.1-0:latest',python-module=trainer.task \
      --python-package-uris=$BUCKET_URI/trainer-0.1.tar.gz \
      --args="--training-dir","/gcs/$BUCKET_NAME" \
      --region=$REGION
   

   L'output dovrebbe essere simile al seguente. Il primo numero in ogni percorso del job personalizzato è il numero del progetto (PROJECT_NUMBER). Il secondo numero corrisponde all'ID job personalizzato (CUSTOM_JOB_ID). Annota questi numeri in modo da poterli utilizzare nel passaggio successivo.

   Using endpoint [http://us-central1-aiplatform.googleapis.com/]
   CustomJob [projects/721032480027/locations/us-central1/customJobs/1100328496195960832] is submitted successfully.
   
   Your job is still active. You may view the status of your job with the command
   
   $ gcloud ai custom-jobs describe projects/721032480027/locations/us-central1/customJobs/1100328496195960832
   
   or continue streaming the logs with the command
   
   $ gcloud ai custom-jobs stream-logs projects/721032480027/locations/us-central1/customJobs/1100328496195960832
   

2. Esegui il job di addestramento personalizzato e mostra l'avanzamento tramite streaming dei log dal job durante l'esecuzione:

   !gcloud ai custom-jobs stream-logs projects/PROJECT_NUMBER/locations/us-central1/customJobs/CUSTOM_JOB_ID
   

   Sostituisci i seguenti valori:

   • PROJECT_NUMBER: il numero del progetto nell'output del comando precedente
   • CUSTOM_JOB_ID: l'ID job personalizzato dell'output del comando precedente

   Il job di addestramento personalizzato è ora in esecuzione. Il completamento richiede circa 10 minuti.

   Al termine del job, puoi importare il modello dal bucket di gestione temporanea a Vertex AI Model Registry.

Importa il modello

Il job di addestramento personalizzato carica il modello addestrato nel bucket di gestione temporanea. Al termine del job, puoi importare il modello dal bucket in Vertex AI Model Registry.

1. Nel tuo blocco note JupyterLab, importa il modello eseguendo questo comando:

   !gcloud ai models upload --container-image-uri="us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.1-2:latest" \
      --display-name=income-classifier-model \
      --artifact-uri=$BUCKET_URI \
      --project=$PROJECT_ID \
      --region=$REGION
   

2. Elenca i modelli Vertex AI nel progetto come segue:

   !gcloud ai models list --region=us-central1
   

   L'output dovrebbe essere simile al seguente. Se sono elencati due o più modelli, il primo nell'elenco è quello importato più di recente.

   Prendi nota del valore nella colonna MODEL_ID. Ti serve per creare la richiesta di previsione batch.

   Using endpoint [http://us-central1-aiplatform.googleapis.com/]
   MODEL_ID             DISPLAY_NAME
   1871528219660779520  income-classifier-model
   

   In alternativa, puoi elencare i modelli nel tuo progetto come segue:

   Nella sezione Vertex AI della console Google Cloud, vai alla pagina Vertex AI Model Registry.

   Vai alla pagina di Vertex AI Model Registry

   Per visualizzare gli ID e altri dettagli di un modello, fai clic sul nome del modello, poi fai clic sulla scheda Dettagli versione.

Ottieni previsioni batch dal modello

Ora puoi richiedere previsioni batch dal modello. Le richieste di previsione batch vengono effettuate dall'istanza VM on-prem-client.

Crea la richiesta di previsione batch

In questo passaggio, utilizzerai ssh per accedere all'istanza VM on-prem-client. Nell'istanza VM, crei un file di testo denominato request.json che contiene il payload per una richiesta curl di esempio da inviare al modello per ottenere previsioni batch.

1. In Cloud Shell, esegui questi comandi, sostituendo PROJECT_ID con il tuo ID progetto:

   projectid=PROJECT_ID
   gcloud config set project ${projectid}
   

2. Accedi all'istanza VM on-prem-client utilizzando ssh:

   gcloud compute ssh on-prem-client \
     --project=$projectid \
     --zone=us-central1-a
   

3. Nell'istanza VM on-prem-client, utilizza un editor di testo come vim o nano per creare un nuovo file denominato request.json contenente il seguente testo:

   {
     "displayName": "income-classification-batch-job",
     "model": "projects/PROJECT_ID/locations/us-central1/models/MODEL_ID",
     "inputConfig": {
       "instancesFormat": "csv",
       "gcsSource": {
         "uris": ["BUCKET_URI/test.csv"]
       }
     },
     "outputConfig": {
       "predictionsFormat": "jsonl",
       "gcsDestination": {
         "outputUriPrefix": "BUCKET_URI"
       }
     },
     "dedicatedResources": {
       "machineSpec": {
         "machineType": "n1-standard-4",
         "acceleratorCount": "0" 
       },
       "startingReplicaCount": 1,
       "maxReplicaCount": 2
     }
   }
   

   Sostituisci i seguenti valori:

   • PROJECT_ID: il tuo ID progetto
   • MODEL_ID: l'ID del modello
   • BUCKET_URI: l'URI del bucket di archiviazione in cui hai eseguito l'archiviazione temporanea del modello

4. Esegui questo comando per inviare la richiesta di previsione batch:

   curl -X POST \
      -H "Authorization: Bearer $(gcloud auth print-access-token)" \
      -H "Content-Type: application/json; charset=utf-8" \
      -d @request.json \
      "http://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/batchPredictionJobs"
   

   Sostituisci PROJECT_ID con l'ID progetto.

   Nella risposta dovresti vedere la seguente riga:

   "state": "JOB_STATE_PENDING"
   

   Il job di previsione batch è ora in esecuzione in modo asincrono. L'esecuzione richiede circa 20 minuti.

5. Nella sezione Vertex AI della console Google Cloud, vai alla pagina Previsioni batch.

   Vai alla pagina Previsioni batch

   Mentre il job di previsione batch è in esecuzione, il suo stato è Running. Al termine, lo stato diventa Finished.

6. Fai clic sul nome del job di previsione batch (income-classification-batch-job), quindi sul link Esporta percorso nella pagina dei dettagli per visualizzare i file di output del job batch in Cloud Storage.

   In alternativa, puoi fare clic sull'icona storageVisualizza output previsione su Cloud Storage (tra la colonna Ultimo aggiornamento e il menu more_vertAzioni).

7. Fai clic sul link al file prediction.results-00000-of-00002 o prediction.results-00001-of-00002, quindi sul link URL autenticato per aprire il file.

   L'output del job di previsione batch dovrebbe essere simile a questo esempio:

   {"instance": ["27", " Private", "391468", " 11th", "7", " Divorced", " Craft-repair", " Own-child", " White", " Male", "0", "0", "40", " United-States"], "prediction": " <=50K"}
   {"instance": ["47", " Self-emp-not-inc", "192755", " HS-grad", "9", " Married-civ-spouse", " Machine-op-inspct", " Wife", " White", " Female", "0", "0", "20", " United-States"], "prediction": " <=50K"}
   {"instance": ["32", " Self-emp-not-inc", "84119", " HS-grad", "9", " Married-civ-spouse", " Craft-repair", " Husband", " White", " Male", "0", "0", "45", " United-States"], "prediction": " <=50K"}
   {"instance": ["32", " Private", "236543", " 12th", "8", " Divorced", " Protective-serv", " Own-child", " White", " Male", "0", "0", "54", " Mexico"], "prediction": " <=50K"}
   {"instance": ["60", " Private", "160625", " HS-grad", "9", " Married-civ-spouse", " Prof-specialty", " Husband", " White", " Male", "5013", "0", "40", " United-States"], "prediction": " <=50K"}
   {"instance": ["34", " Local-gov", "22641", " HS-grad", "9", " Never-married", " Protective-serv", " Not-in-family", " Amer-Indian-Eskimo", " Male", "0", "0", "40", " United-States"], "prediction": " <=50K"}
   {"instance": ["32", " Private", "178623", " HS-grad", "9", " Never-married", " Other-service", " Not-in-family", " Black", " Female", "0", "0", "40", " ?"], "prediction": " <=50K"}
   {"instance": ["28", " Private", "54243", " HS-grad", "9", " Divorced", " Transport-moving", " Not-in-family", " White", " Male", "0", "0", "60", " United-States"], "prediction": " <=50K"}
   {"instance": ["29", " Local-gov", "214385", " 11th", "7", " Divorced", " Other-service", " Unmarried", " Black", " Female", "0", "0", "20", " United-States"], "prediction": " <=50K"}
   {"instance": ["49", " Self-emp-inc", "213140", " HS-grad", "9", " Married-civ-spouse", " Exec-managerial", " Husband", " White", " Male", "0", "1902", "60", " United-States"], "prediction": " >50K"}