Questa pagina è stata tradotta dall'API Cloud Translation.

Famiglia di macchine ottimizzate per l'acceleratore

La famiglia di macchine ottimizzate per l'acceleratore è stata progettata da Google Cloud per offrire le prestazioni e l'efficienza necessarie per i carichi di lavoro con accelerazione GPU, come l'intelligenza artificiale (AI), il machine learning (ML) e il computing ad alte prestazioni (HPC).

La famiglia di macchine ottimizzate per l'acceleratore è disponibile nelle seguenti serie di macchine: A3, A2 e G2. A ogni tipo di macchina di una serie è collegato un modello specifico e un numero di GPU NVIDIA. Puoi anche collegare alcuni modelli GPU ai tipi di macchine per uso generico N1.

Suggerimento sulla serie di macchine per tipo di carico di lavoro

La seguente sezione fornisce le serie di macchine consigliate in base ai carichi di lavoro GPU.

Modelli AI di grandi dimensioni

Tipo di carico di lavoro	Taglia ottimale	Buona alternativa
Addestramento di più server (distribuiti)	A3	A2
Inferenza	A3, A2

Modelli mainstream

Tipo di carico di lavoro	Taglia ottimale	Buona alternativa (nell'ordine consigliato)
Addestramento di più server (distribuiti)	A3	A2 G2 N1+V100
Addestramento su singolo server	A3, A2	G2 N1+V100
Inferenza	G2	N1+T4 N1+V100

Carichi di lavoro ad alta intensità di grafica

Tipo di carico di lavoro	Taglia ottimale (nell'ordine consigliato)
Streaming e transcodifica video, workstation virtuali remote, gemelli digitali	G2 N1+T4

Computing ad alte prestazioni

Per carichi di lavoro per computing ad alte prestazioni, qualsiasi serie di macchine ottimizzate per l'acceleratore funziona bene. La soluzione ottimale dipende dalla quantità di calcolo che deve essere trasferita alla GPU.

Prezzi e sconti

Tutti i tipi di macchine ottimizzate per l'acceleratore supportano le seguenti opzioni di sconto e consumo:

I tipi di macchine ottimizzate per l'acceleratore vengono fatturati per le GPU collegate, la vCPU predefinita, la memoria e l'SSD locale in bundle (se applicabile). Per ulteriori informazioni sui prezzi delle VM ottimizzate per l'acceleratore, consulta la sezione Famiglia di tipo di macchina ottimizzate per l'acceleratore nella pagina dei prezzi delle istanze VM.

La serie di macchine A3

La serie di macchine A3 ha 208 vCPU e 1872 GB di memoria. Questa serie di macchine è ottimizzata per l'addestramento ad alta intensità di calcolo e memoria, l'addestramento ML legato alla rete e i carichi di lavoro HPC.

La serie di macchine A3 offre inoltre le seguenti funzionalità:

Hardware di nuova generazione: ogni tipo di macchina A3 ha GPU NVIDIA H100 collegate, che offrono 80 GB di memoria GPU per GPU ed è ideale per HPC, database e modelli linguistici di grandi dimensioni basati su trasformatore.

Questa serie di macchine si basa sul processore scalabile Intel Xeon di quarta generazione (Sapphire Rapids) e offre una frequenza turbo massima sostenuta fino a 3,3 GHz.
Scala NVLink leader del settore: le GPU NVIDIA H100 offrono una larghezza di banda NVLink GPU di picco pari a 450 GB/s in modo unidirezionale. Con una topologia NVLink complessiva tra 8 GPU in un sistema, la larghezza di banda aggregata di NVLink è fino a 7,2 TB/s. Queste GPU possono essere utilizzate come un singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 25 petaFLOPS di potenza di calcolo AI/DL/ML e fino a 50 petaFLOPS di potenza di calcolo di inferenza.
Networking e velocità di computing migliorati: le GPU NVIDIA H100 offrono un miglioramento della velocità di calcolo fino a 2,5 volte superiore rispetto alle GPU NVIDIA A100.

Il tipo di macchina a3-highgpu-8g offre una larghezza di banda di rete 10 volte superiore rispetto ai tipi di macchine A2 della generazione precedente. Il tipo di macchina a3-megagpu-8g offre una larghezza di banda di rete due volte superiore rispetto a quella a3-highgpu-8g e 20 volte superiore rispetto ai tipi di macchine A2.
Le VM A3 hanno anche più schede di interfaccia di rete fisica (NIC). Ognuna di queste NIC ha una larghezza di banda massima di 200 Gbit/s. Per ogni tipo di macchina A3, le schede NIC sono disposte come segue su un bus PCIe (Peripheral Componente Interconnect Express):
- Per il tipo di macchina a3-highgpu-8g: è disponibile una disposizione NIC di 4 + 1. Con questa disposizione, 4 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.
- Per il tipo di macchina a3-megagpu-8g: è disponibile una disposizione NIC di 8 + 1. Con questa disposizione, 8 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.
Le NIC che condividono lo stesso bus PCIe hanno un allineamento di accesso alla memoria non uniforme (NUMA) di un NIC su due GPU NVIDIA H100 da 80 GB. Queste NIC sono ideali per la comunicazione dedicata da GPU a GPU a larghezza di banda elevata. Il NIC fisico che risiede su un bus PCIe separato è ideale per altre esigenze di networking.
Miglioramento delle prestazioni dei cluster GPU con GPUDirect-TCPX e GPUDirect-TCPXO:
- Per il tipo di macchina a3-highgpu-8g, GPUDirect-TCPX aumenta le prestazioni di rete consentendo il trasferimento dei payload dei pacchetti di dati direttamente dalla memoria GPU all'interfaccia di rete. Sfruttando GPUDirect-TCPX, il tipo di macchina a3-highgpu-8g raggiunge una velocità effettiva molto più elevata tra le VM in un cluster rispetto ai tipi di macchina ottimizzati per l'acceleratore A2 o G2.
- Per il tipo di macchina a3-megagpu-8g, GPUDirect-TCPXO migliora ulteriormente GPUDirect-TCPX riducendo il carico dell'elaborazione del protocollo TCP sui core ACC dell'architettura Diorite. Sfruttando GPUDirect-TCPXO, il tipo di macchina a3-megagpu-8g raddoppia la larghezza di banda della rete rispetto al tipo di macchina a3-highgpu-8g.
Ottimizzazioni della virtualizzazione: la topologia PCIe Express (Peripheral Componenti Interconnect) delle VM A3 fornisce informazioni più accurate sulle località che i carichi di lavoro possono utilizzare per ottimizzare i trasferimenti di dati.

Le GPU NVIDIA H100 espongono inoltre il reset a livello di funzione (FLR) per un ripristino controllato dagli errori e supporto delle operazioni atomiche per miglioramenti della contemporaneità in determinati scenari.
Spazio di archiviazione: 6000 GiB di SSD locali vengono aggiunti automaticamente alle VM create utilizzando il tipo di macchina A3. L'SSD locale può essere usato per dischi temporanei o per inserire dati nelle GPU, evitando al tempo stesso i colli di bottiglia I/O.

Puoi anche collegare fino a 257 TiB di archiviazione su Persistent Disk ai tipi di macchina di queste serie per le applicazioni che richiedono prestazioni di archiviazione più elevate.
Supporto di criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una larghezza di banda superiore per il posizionamento delle VM all'interno di una singola zona di disponibilità. Il criterio di posizionamento compatto supporta fino a 96 VM in un sottoinsieme della rete a bassa latenza, all'interno di una determinata zona.

Tipi di disco supportati per A3

Le VM A3 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Hyperdisk Extreme (hyperdisk-extreme)
Velocità effettiva Hyperdisk (hyperdisk-throughput)
SSD locale: aggiunto automaticamente alle VM create utilizzando il tipo di macchina A3

Limiti di disco e capacità

Puoi utilizzare una combinazione di volumi Persistent Disk e Hyperdisk con una VM, ma si applicano le seguenti limitazioni:

Il numero combinato di volumi Hyperdisk e Persistent Disk non può superare 128 per VM.
Per i tipi di macchina con 32 o più vCPU, la capacità massima del disco totale (in TiB) su tutti i tipi di disco non può superare quanto segue:
- 512 TiB per tutti gli Hyperdisk
- 512 TiB per una combinazione di Hyperdisk e Persistent Disk
- 257 TiB per tutti i Persistent Disk

Per maggiori dettagli sui limiti di capacità, consulta Limiti di capacità Hyperdisk per VM e Capacità massima del disco permanente.

Tipo di macchina A3 Mega

Tipi di macchina	Conteggio GPU	Numero vCPU^*	Memoria VM (GB)	Numero massimo di dischi per VM, su tutti i dischi^†	Volumi Hyperdisk totali massimi per VM	SSD locale collegato (GiB)	Larghezza di banda massima di rete (Gbps)^‡
							VM	Cluster GPU
`a3-megagpu-8g`	8	208	1872	128	Velocità effettiva Hyperdisk: 64 Hyperdisk Extreme: 8	6000	200	1600

^* Una vCPU viene implementata come un singolo hyperthread hardware su una delle piattaforme CPU disponibili.
^†L'utilizzo di Hyperdisk e Persistent Disk viene addebitato separatamente dai prezzi del tipo di macchina.
^‡La larghezza di banda massima in uscita non può superare il numero specificato. La larghezza di banda effettiva in uscita dipende dall'indirizzo IP di destinazione e da altri fattori. Vedi Larghezza di banda della rete.
^#Per la velocità effettiva Hyperdisk, la dimensione massima per volume è 32 TiB. Per tutti gli altri volumi Persistent Disk o Hyperdisk, la dimensione massima è 64 TiB.

Tipo di macchina standard A3

Tipi di macchina	Conteggio GPU	Numero vCPU^*	Memoria VM (GB)	Numero massimo di dischi per VM, su tutti i dischi^†	Volumi Hyperdisk totali massimi per VM	SSD locale collegato (GiB)	Larghezza di banda massima di rete (Gbps)^‡
`a3-highgpu-8g`	8	208	1872	128	Velocità effettiva Hyperdisk: 64 Hyperdisk Extreme: 8	6000	200	800

Limitazioni di A3

Le seguenti limitazioni si applicano alle VM che utilizzano i tipi di macchine A3 Standard e A3 Mega:

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano i tipi di macchine A3.
Puoi utilizzare i tipi di macchina A3 solo in determinate regioni e zone.
Non puoi utilizzare i dischi permanenti a livello di regione sulle VM che utilizzano i tipi di macchine A3.
Il tipo di macchina A3 è disponibile solo sulla piattaforma Sapphire Rapids.
Se la tua VM utilizza un tipo di macchina A3, non puoi cambiarlo. Se devi modificare il tipo di macchina, devi creare una nuova VM.
Non puoi cambiare il tipo di macchina di una VM in un tipo di macchina A3. Se hai bisogno di una VM che utilizza un tipo di macchina A3, devi creare una nuova VM.
I tipi di macchina A3 non supportano la modalità single-tenancy.
Non puoi eseguire i sistemi operativi Windows sui tipi di macchina A3.
Non puoi eseguire carichi di lavoro su A3 Standard e A3 Mega VM perché utilizzano uno stack di rete diverso.

La serie di macchine A2

La serie di macchine A2 è disponibile nei tipi A2 Standard e A2 Ultra. Questi tipi di macchina hanno da 12 a 96 vCPU e fino a 1360 GB di memoria.

La serie di macchine A2 offre inoltre le seguenti funzionalità:

GPU NVIDIA collegate: ogni tipo di macchina A2 dispone di GPU NVIDIA A100. Questi sono disponibili nelle opzioni A100 da 40 GB e A100 da 80 GB.
Scala NVLink leader del settore che fornisce picco di GPU per larghezza di banda di 600 GB/s con GPU NVLink. Ad esempio, i sistemi con 16 GPU hanno una larghezza di banda NVLink aggregata fino a 9,6 TBps. Queste 16 GPU possono essere utilizzate come singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 10 petaFLOPS di potenza di calcolo e fino a 20 petaFLOPS di potenza di calcolo di inferenza, utilizzabili per carichi di lavoro di intelligenza artificiale, deep learning e machine learning.
Velocità di calcolo migliorata: le GPU NVIDIA A100 collegate offrono fino a 10 volte miglioramenti in termini di velocità di calcolo rispetto alle GPU NVIDIA V100 della generazione precedente.

Con la serie di macchine A2, puoi ottenere una larghezza di banda di rete fino a 100 Gbps.
Archiviazione: per dischi temporanei rapidi o per alimentare i dati nelle GPU evitando colli di bottiglia I/O, i tipi di macchina A2 supportano gli SSD locali come segue:
- Per i tipi di macchina A2 Standard, puoi aggiungere fino a 3000 GiB di SSD locali.
- Per i tipi di macchine A2 Ultra, l'SSD locale viene collegata automaticamente quando crei la VM.
Puoi anche collegare fino a 257 TiB di archiviazione su Persistent Disk a VM A2 per le applicazioni che richiedono queste prestazioni di archiviazione più elevate.
Supporto di criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una larghezza di banda superiore per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per maggiori informazioni, consulta Ridurre la latenza utilizzando criteri di posizionamento compatti.

Tipi di disco supportati per A2

Le VM A2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Disco permanente standard (pd-standard)
SSD locale: collegato automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Tipi di macchine A2 Ultra

Questi tipi di macchina hanno un numero fisso di GPU A100 da 80 GB. L'SSD locale viene collegato automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Tipi di macchina	Conteggio GPU	vCPU^*	Memoria VM (GB)	Numero massimo di Persistent Disk permanenti^†	Totale massimo di Persistent Disk (TiB)	SSD locale collegato (GiB)	Larghezza di banda in uscita massima (Gbps)^‡
`a2-ultragpu-1g`	1	12	170	128	257	375	24
`a2-ultragpu-2g`	2	24	340	128	257	750	32
`a2-ultragpu-4g`	4	48	680	128	257	1500	50
`a2-ultragpu-8g`	8	96	1360	128	257	3000	100

Limitazioni di A2 Ultra

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano i tipi di macchine A2 Ultra.
Puoi utilizzare i tipi di macchina A2 Ultra solo in determinate regioni e zone.
Non puoi utilizzare i dischi permanenti a livello di regione sulle VM che utilizzano i tipi di macchine A2 Ultra.
Il tipo di macchina A2 Ultra è disponibile solo sulla piattaforma Cascade Lake.
Se la tua VM utilizza un tipo di macchina A2 Ultra, non puoi cambiarlo. Se devi utilizzare un tipo di macchina A2 Ultra diverso o qualsiasi altro tipo di macchina, devi creare una nuova VM.
Non puoi cambiare nessun altro tipo di macchina in un tipo A2 Ultra. Se hai bisogno di una VM che utilizza un tipo di macchina A2 Ultra, devi creare una nuova VM.
Non puoi eseguire una formattazione rapida delle unità SSD locali collegate sulle VM Windows che utilizzano i tipi di macchine A2 Ultra. Per formattare queste unità SSD locali, devi creare un formato completo utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.

Tipi di macchina standard A2

Questi tipi di macchina hanno un numero fisso di GPU A100 da 40 GB.

Tipi di macchina	Conteggio GPU	vCPU^*	Memoria VM (GB)	Numero massimo di Persistent Disk permanenti^†	Totale massimo di Persistent Disk (TiB)	SSD locali supportati	Larghezza di banda in uscita massima (Gbps)^‡
`a2-highgpu-1g`	1	12	85	128	257	Sì	24
`a2-highgpu-2g`	2	24	170	128	257	Sì	32
`a2-highgpu-4g`	4	48	340	128	257	Sì	50
`a2-highgpu-8g`	8	96	680	128	257	Sì	100
`a2-megagpu-16g`	16	96	1360	128	257	Sì	100

Limitazioni di A2 Standard

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano i tipi di macchine A2 Standard.
Puoi utilizzare i tipi di macchina A2 Standard solo in determinate regioni e zone.
Non puoi utilizzare i dischi permanenti a livello di regione sulle VM che utilizzano i tipi di macchine A2 Standard.
Il tipo di macchina A2 Standard è disponibile solo sulla piattaforma Cascade Lake.
Se la tua VM utilizza un tipo di macchina A2 Standard, puoi passare solo da un tipo di macchina A2 Standard a un altro A2 Standard. Non puoi passare a nessun altro tipo di macchina. Per saperne di più, consulta Modificare le VM ottimizzate per l'acceleratore.
Non puoi utilizzare il sistema operativo Windows con i tipi di macchina A2 Standard <codea2-megagpu-16g< code="" dir="ltr" translation="no"> A2 Standard. Se utilizzi i sistemi operativi Windows, scegli un tipo di macchina A2 Standard diverso.</codea2-megagpu-16g<>
Non puoi eseguire una formattazione rapida delle unità SSD locali collegate sulle VM Windows che utilizzano tipi di macchine A2 Standard. Per formattare queste unità SSD locali, devi creare un formato completo utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.
I tipi di macchina Standard A2 non supportano la modalità single-tenancy.

La serie di macchine G2

La serie di macchine G2 è disponibile in tipi di macchina standard con da 4 a 96 vCPU e fino a 432 GB di memoria. Questa serie di macchine è ottimizzata per carichi di lavoro di inferenza e grafica.

La serie di macchine G2 offre inoltre le seguenti funzionalità:

GPU NVIDIA collegate: ogni tipo di macchina G2 dispone di GPU NVIDIA L4.
Velocità di inferenza migliorate: i tipi di macchine G2 supportano il tipo di dati FP8 (in virgola mobile a 8 bit) che velocizza i tassi di inferenza ML e riduce i requisiti di memoria.
Prestazioni grafiche di nuova generazione: le GPU NVIDIA L4 offrono miglioramenti fino a 3 volte delle prestazioni grafiche grazie all'utilizzo di core RT di terza generazione e della tecnologia NVIDIA DLSS 3 (Deep Learning Super Sampling).
Larghezza di banda di rete ad alte prestazioni: con la serie di macchine G2, puoi ottenere fino a 100 Gbps di larghezza di banda.
Spazio di archiviazione: puoi aggiungere fino a 3000 GiB di SSD locali alle VM G2. Può essere utilizzata per dischi temporanei rapidi o per inviare dati alle GPU, evitando al tempo stesso i colli di bottiglia di I/O.

Puoi anche collegare i volumi Hyperdisk e Persistent Disk alle VM G2 per le applicazioni che richiedono un'archiviazione più permanente. La capacità di archiviazione massima dipende dal numero di vCPU della VM. Per maggiori dettagli, consulta Tipi di disco supportati.
Supporto di criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una larghezza di banda superiore per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per maggiori informazioni, consulta Ridurre la latenza utilizzando criteri di posizionamento compatti.

Tipi di disco supportati per G2

Le VM G2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Velocità effettiva Hyperdisk (hyperdisk-throughput)
SSD locale