Ray est un framework Open Source qui permet de faire évoluer des applications d'IA et Python. Ray fournit l'infrastructure nécessaire pour les opérations de calculs distribuées et de traitement en parallèle pour votre workflow de machine learning (ML).
Si vous utilisez déjà Ray, vous pouvez vous servir du même code Ray Open Source pour écrire des programmes et développer des applications sur Vertex AI avec un minimum de modifications. Vous pouvez ensuite utiliser les intégrations de Vertex AI avec d'autres services Google Cloud, tels que les prédictions de Vertex AI et BigQuery, dans votre workflow de machine learning.
Si vous utilisez déjà Vertex AI et que vous avez besoin d'un moyen plus simple de faire évoluer les ressources de calcul, vous pouvez utiliser le code Ray pour optimiser les performances de l'entraînement, du réglage des hyperparamètres, des prédictions et des étapes de diffusion en ligne.
Workflow d'utilisation de Ray sur Vertex AI
Le processus d'utilisation de Ray sur Vertex AI est le suivant :
| Étapes | Description |
|---|---|
| 1. Configurez Ray sur Vertex AI. | Configurez votre projet Google, installez la version du SDK Vertex AI pour Python qui inclut les fonctionnalités du client Ray, puis configurez un réseau d'appairage de VPC. |
| 2. Créer un cluster Ray sur Vertex AI | Créez un cluster Ray sur Vertex AI. |
| 3. Développer une application Ray sur Vertex AI | Connectez-vous à un cluster Ray sur Vertex AI et développez une application. |
| 4. (Facultatif) Utiliser Ray sur Vertex AI avec BigQuery | Lisez, écrivez et transformez des données avec BigQuery |
| 5. (Facultatif) Déployer un modèle sur Vertex AI et obtenir des prédictions | Déployez un modèle sur un point de terminaison en ligne Vertex AI et obtenez des prédictions. |
| 6. Afficher les journaux de votre cluster Ray sur Vertex AI | Affichez les journaux générés dans Cloud Logging. |
| 7. Supprimer un cluster Ray sur Vertex AI | Supprimez un cluster Ray sur Vertex AI pour éviter que des frais ne vous soient facturés. |
Architecture
Le schéma suivant présente l'architecture et le workflow de Ray sur Vertex AI après la configuration de votre projet Google Cloud et de votre réseau VPC :
Créez le cluster Ray sur Vertex AI à l'aide des options suivantes :
Utilisez la console Google Cloud pour créer le cluster Ray sur Vertex AI.
Créez le cluster Ray sur Vertex AI à l'aide du SDK Vertex AI pour Python.
Connectez-vous au cluster Ray sur Vertex AI via un réseau VPC appairé à l'aide des options suivantes :
Utilisez Colab Enterprise dans la console Google Cloud.
Utilisez un notebook Vertex AI Workbench.
Développez votre application et entraînez votre modèle sur le cluster Ray sur Vertex AI à l'aide des options suivantes :
Utilisez le SDK Vertex AI pour Python dans l'environnement de votre choix (notebook Colab Enterprise ou Vertex AI Workbench).
Écrivez un script Python à l'aide de l'environnement de votre choix. Envoyez un job Ray au cluster Ray sur Vertex AI à l'aide du SDK Vertex AI pour Python, de la CLI du job Ray ou du tableau de bord Ray.
Déployez le modèle entraîné sur un point de terminaison Vertex AI en ligne pour les prédictions.
Utilisez BigQuery pour gérer vos données.
Tarifs
Les tarifs de Ray sur Vertex AI sont calculés comme suit :
Les ressources de calcul que vous utilisez sont facturées en fonction de la configuration de machine que vous sélectionnez lors de la création de votre cluster Ray sur Vertex AI. Pendant la phase preview, l'utilisation de Ray sur Vertex AI est facturée au même tarif que les modèles entraînés personnalisés. Après la disponibilité générale, le prix augmentera afin de refléter les tarifs de Ray sur Vertex AI. Vous serez informé du changement de tarification lorsque Ray sur Vertex AI sera en disponibilité générale.
Lorsque vous effectuez des tâches à l'aide du cluster Ray sur Vertex AI, les journaux sont automatiquement générés et facturés en fonction des tarifs de Cloud Logging.
Si vous déployez votre modèle sur un point de terminaison pour les prédictions en ligne, consultez la section Prédiction et explications de la page "Tarifs de Vertex AI."
Si vous utilisez BigQuery avec Ray sur Vertex AI, consultez les tarifs de BigQuery.