Ray è un framework open source per la scalabilità delle applicazioni AI e Python. Ray fornisce l'infrastruttura necessaria per il calcolo distribuito e l'elaborazione parallela per il flusso di lavoro di machine learning (ML).
Se già utilizzi Ray, puoi usare lo stesso codice open source Ray per scrivere programmi e sviluppare applicazioni su Vertex AI con modifiche minime. Puoi quindi utilizzare le integrazioni di Vertex AI con altri servizi Google Cloud come previsioni Vertex AI e BigQuery come parte del tuo flusso di lavoro per il machine learning.
Se usi già Vertex AI e hai bisogno di un modo più semplice per scalare le risorse di calcolo, puoi utilizzare il codice Ray per ottimizzare le prestazioni dei passaggi di addestramento, ottimizzazione degli iperparametri, previsioni e pubblicazione online.
Flusso di lavoro per l'utilizzo di Ray su Vertex AI
Usa Colab Enterprise e l'SDK Vertex AI per Python per connetterti al cluster Ray.
| Procedura | Descrizione |
|---|---|
| 1. Configurazione per Ray su Vertex AI | Configura il tuo progetto Google, installa la versione dell'SDK Vertex AI per Python che include la funzionalità del client Ray e configura una rete di peering VPC (facoltativa). |
| 2. Crea un cluster Ray su Vertex AI | Creare un cluster Ray su Vertex AI. |
| 3. Sviluppa un'applicazione Ray su Vertex AI | Connettiti a un cluster Ray su Vertex AI e sviluppa un'applicazione. |
| 4. (Facoltativo) Utilizzare Ray su Vertex AI con BigQuery | Leggi, scrivi e trasforma i dati con BigQuery. |
| 5. (Facoltativo) Esegui il deployment di un modello su Vertex AI e ottieni previsioni | Esegui il deployment di un modello su un endpoint online Vertex AI e ottieni previsioni. |
| 6. Monitora il tuo cluster Ray su Vertex AI | Monitorare i log generati in Cloud Logging e le metriche in Cloud Monitoring. |
| 7. Eliminare un cluster Ray su Vertex AI | Elimina un cluster Ray su Vertex AI per evitare fatture non necessarie. |
Architettura
I cluster Ray su Vertex AI possono essere configurati con connettività pubblica o privata. I seguenti diagrammi mostrano l'architettura e il flusso di lavoro per Ray su Vertex AI. Per saperne di più, vedi Connettività pubblica o privata.
Architettura con connettività pubblica
Crea il cluster Ray su Vertex AI utilizzando le seguenti opzioni:
a. Usa la console Google Cloud per creare il cluster Ray su Vertex AI.
b. Crea il cluster Ray su Vertex AI utilizzando l'SDK Vertex AI per Python.
Connettiti al cluster Ray su Vertex AI per uno sviluppo interattivo utilizzando le seguenti opzioni:
a. Utilizza Colab Enterprise nella console Google Cloud per una connessione senza interruzioni.
b. Utilizza qualsiasi ambiente Python accessibile alla rete internet pubblica.
Sviluppa la tua applicazione e addestra il modello nel cluster Ray in Vertex AI:
Utilizza l'SDK Vertex AI per Python nel tuo ambiente preferito (Colab Enterprise o qualsiasi blocco note Python).
Scrivi uno script Python utilizzando il tuo ambiente preferito.
Invia un job Ray al cluster Ray su Vertex AI utilizzando l'SDK Vertex AI per Python, l'interfaccia a riga di comando Ray Job o l'API Ray Job Submission.
Esegui il deployment del modello addestrato su un endpoint Vertex AI online per la previsione in tempo reale.
Usa BigQuery per gestire i dati.
Architettura con VPC
Il seguente diagramma mostra l'architettura e il flusso di lavoro per Ray on Vertex AI dopo aver configurato il progetto Google Cloud e la rete VPC (facoltativo):
Configura il (a) progetto Google e (b) la rete VPC.
Crea il cluster Ray su Vertex AI utilizzando le seguenti opzioni:
a. Usa la console Google Cloud per creare il cluster Ray su Vertex AI.
b. Crea il cluster Ray su Vertex AI utilizzando l'SDK Vertex AI per Python.
Connettiti al cluster Ray su Vertex AI tramite una rete in peering VPC utilizzando le seguenti opzioni:
Utilizza Colab Enterprise nella console Google Cloud.
Utilizza un blocco note Vertex AI Workbench.
Sviluppa la tua applicazione e addestra il modello nel cluster Ray su Vertex AI utilizzando le seguenti opzioni:
Usa l'SDK Vertex AI per Python nel tuo ambiente preferito (Colab Enterprise o un blocco note Vertex AI Workbench).
Scrivi uno script Python utilizzando il tuo ambiente preferito. Invia un job Ray al cluster Ray su Vertex AI utilizzando l'SDK Vertex AI per Python, l'interfaccia a riga di comando di Ray Job o la dashboard Ray.
Esegui il deployment del modello addestrato su un endpoint Vertex AI online per le previsioni.
Utilizza BigQuery per gestire i tuoi dati.
Prezzi
I prezzi di Ray su Vertex AI vengono calcolati come segue:
Le risorse di calcolo che utilizzi vengono addebitate in base alla configurazione della macchina selezionata durante la creazione del cluster Ray su Vertex AI. Per i prezzi di Ray on Vertex AI, consulta la pagina dei prezzi.
Quando esegui attività utilizzando il cluster Ray su Vertex AI, i log vengono generati automaticamente e addebitati in base ai prezzi di Cloud Logging.
Se esegui il deployment del modello su un endpoint per le previsioni online, consulta la sezione "Previsione e spiegazione" nella pagina dei prezzi di Vertex AI.
Se utilizzi BigQuery con Ray su Vertex AI, consulta Prezzi di BigQuery.