Esegui il deployment dei carichi di lavoro delle GPU in Autopilot

Scopri come richiedere acceleratori hardware (GPU) nei tuoi carichi di lavoro GKE Autopilot.

Gestisci un LLM con più GPU in GKE

Scopri come gestire Llama 2 70B o Falcon 40B utilizzando più GPU NVIDIA L4 con GKE.

Gestisci un LLM utilizzando TPU multi-host su GKE con Saxml

Scopri come gestire Falcon 7b, Llama2 7b, Falcon 40b o Llama2 70b utilizzando il framework Ray in GKE.

Introduzione a Ray su GKE

Scopri come iniziare a utilizzare facilmente Ray su GKE eseguendo un carico di lavoro su un cluster Ray.

Gestisci un LLM su GPU L4 con Ray

Scopri come gestire Falcon 7b, Llama2 7b, Falcon 40b o Llama2 70b utilizzando il framework Ray in GKE.

Orchestra carichi di lavoro TPU multisezione utilizzando JobSet e Kueue

Scopri come orchestrare un carico di lavoro Jax su più sezioni TPU su GKE utilizzando JobSet e Kueue.

Monitoraggio dei carichi di lavoro delle GPU su GKE con NVIDIA Data Center GPU Manager (DCGM)

Scopri come osservare i carichi di lavoro delle GPU su GKE con NVIDIA Data Center GPU Manager (DCGM).

Guida rapida: addestra un modello con GPU nei cluster GKE Standard

Questa guida rapida mostra come eseguire il deployment di un modello di addestramento con GPU in GKE e archiviare le previsioni in Cloud Storage.

Esecuzione di machine learning su larga scala su GKE

Questo video mostra in che modo GKE aiuta a risolvere le sfide comuni dell'addestramento di modelli di AI di grandi dimensioni su larga scala e le best practice per l'addestramento e la gestione di modelli di machine learning su larga scala su GKE.

TensorFlow su GKE Autopilot con accelerazione GPU

Questo post del blog fornisce una guida passo passo alla creazione, all'esecuzione e allo smontaggio di un blocco note Jupiter compatibile con Tensorflow.

Implementa un sistema di coda dei job con condivisione della quota tra spazi dei nomi su GKE

Questo tutorial utilizza Kueue per mostrare come implementare un sistema di code dei job e configurare la condivisione delle risorse e della quota dei carichi di lavoro tra diversi spazi dei nomi su GKE.

Infrastruttura per un'applicazione di AI generativa con funzionalità RAG utilizzando GKE

Architettura di riferimento per l'esecuzione di un'applicazione di AI generativa con generazione di recupero aumentata (RAG) utilizzando GKE, Cloud SQL, Ray, Hugging Face e LangChain.

Innovazione nella ricerca di brevetti: come IPRally sfrutta l'AI con GKE e Ray

Come IPRally utilizza GKE e Ray per creare una piattaforma ML efficiente e scalabile per ricerche più rapide di brevetti con maggiore precisione.

Approfondimenti sulle prestazioni di Gemma su Google Cloud

Utilizza Gemma su GPU Cloud e Cloud TPU per l'inferenza e l'efficienza dell'addestramento su GKE.

Approfondimento di Gemma su GKE: innovazioni per la gestione di modelli di AI generativa aperti

Utilizza i migliori modelli aperti Gemma per creare applicazioni AI portabili e personalizzabili ed eseguirne il deployment su GKE.

Pianificazione avanzata per AI/ML con Ray e Kueue

Orchestra applicazioni Ray in GKE con KubeRay e Kueue.

Come proteggere Ray su Google Kubernetes Engine

Applica insight sulla sicurezza e tecniche di protezione avanzata per l'addestramento di carichi di lavoro AI/ML utilizzando Ray su GKE.

Progetta l'archiviazione per i carichi di lavoro di AI e ML in Google Cloud

Seleziona la combinazione migliore di opzioni di archiviazione per i carichi di lavoro AI e ML su Google Cloud.

L'installazione automatica dei driver semplifica l'utilizzo delle GPU NVIDIA in GKE

Installa automaticamente i driver GPU Nvidia in GKE.

Accelera il tuo percorso verso l'AI generativa con il framework NVIDIA NeMo su GKEE

Addestra modelli di AI generativa utilizzando il framework GKE e NVIDIA NeMo.

Perché GKE per i tuoi carichi di lavoro Ray AI?

Migliora scalabilità, efficienza dei costi, tolleranza di errore, isolamento e portabilità utilizzando i carichi di lavoro GKE per Ray.

Esecuzione dell'IA su GKE completamente gestito, ora con nuove opzioni di calcolo, prezzi e prenotazioni di risorse

Ottieni supporto e prestazioni migliori per le GPU e prezzi inferiori per i carichi di lavoro AI/ML con GKE Autopilot.

Come SEEN ha scalato l'output di 89 volte e ha ridotto i costi delle GPU del 66% utilizzando GKE

L'avvio scala l'output video personalizzato con GKE.

Come Let's Enhance utilizza NVIDIA AI e GKE per potenziare il fotoritocco basato sull'IA

AI innovativa per migliorare le immagini utilizzando GPU NVIDIA e GKE.

In che modo la condivisione della GPU di GKE aiuta gli scienziati a cercare i neutrini

La condivisione della GPU GKE aiuta gli scienziati a cercare i neutrini.

GPU con condivisione del tempo in GKE

Scopri come la funzionalità di condivisione del tempo delle GPU su GKE consente a più container di condividere un'unica GPU fisica, migliorandone l'utilità.

GPU multi-istanza in GKE

Scopri come le GPU multi-istanza in GKE ti aiutano a ottenere un valore migliore dai tuoi investimenti nelle GPU.

Ecco come Etsy utilizza GKE per riprogettare la sua piattaforma di machine learning

Etsy sfrutta il machine learning (ML) per creare esperienze personalizzate per i nostri milioni di acquirenti in tutto il mondo.

Come Spotify sta scatenando l'innovazione ML con Ray e GKE

Scopri come Ray sta trasformando lo sviluppo ML in Spotify.

Come Ordaōs Bio sfrutta l'AI generativa su GKE

Ordaōs Bio, uno dei principali acceleratori di AI per la ricerca e la scoperta biomediche, sta trovando soluzioni a nuove immunoterapie in oncologia e malattie infiammatorie croniche.

GKE da una startup in crescita basata sul machine learning

Come Moloco, una startup della Silicon Valley, ha sfruttato la potenza di GKE e Tensor Flow Enterprise per potenziare la sua infrastruttura di machine learning (ML).

Ray su GKE

Utilizza questo modello Terraform per eseguire Ray su GKE.

Configura Ray su GKE con le TPU

Utilizza questo esempio di Terraform per eseguire il deployment di Ray su un cluster GKE con una topologia 2x2x1.

Carichi di lavoro di addestramento ML su GKE con l'API JobSet

Esegui carichi di lavoro distribuiti per l'addestramento di machine learning su GKE utilizzando l'API JobSet.

"Hello World" di JAX su GKE

Esegui un semplice programma JAX utilizzando GPU NVIDIA A100-80 GB su un cluster GKE.