Aggiungi o rimuovi GPU (original) (raw)

Linux Windows

Compute Engine fornisce le unità di elaborazione grafica (GPU) che puoi aggiungere alle tue istanze Compute Engine. Puoi utilizzare queste GPU per accelerare workload specifici sulle tue istanze di calcolo, come intelligenza artificiale (AI), machine learning (ML) e workload a uso intensivo di grafica.

Quando esegui GPU su Compute Engine, puoi utilizzare solo due famiglie di macchine:

Prima di iniziare

Console

Quando utilizzi la console Google Cloud per accedere ai servizi Google Cloud e alle API, non devi configurare l'autenticazione.

REST

Per utilizzare gli esempi di API REST in questa pagina in un ambiente di sviluppo locale, utilizzi le credenziali che fornisci a gcloud CLI.
Installa Google Cloud CLI.
Se utilizzi un provider di identità (IdP) esterno, devi prima accedere a gcloud CLI con la tua identità federata.
Per saperne di più, consultaAutenticati per usare REST nella documentazione sull'autenticazione di Google Cloud .

Istanze ottimizzate per l'acceleratore

Esamina le seguenti opzioni di modifica e limitazioni per i tipi di macchine ottimizzate per l'acceleratore:

Modifica il numero di GPU

Puoi modificare il numero di GPU di un'istanza G4, G2 o A2 standard ottimizzata per l'acceleratore utilizzando la console Google Cloud o REST.

Console

Puoi modificare il numero di GPU per l'istanza arrestandola e modificandone la configurazione.

  1. Verifica che tutte le applicazioni critiche siano arrestate sull'istanza.
  2. Nella console Google Cloud , vai alla pagina Istanze VM per visualizzare l'elenco delle istanze.
    Vai a Istanze VM
  3. Fai clic sul nome dell'istanza per cui vuoi modificare il numero di GPU. Viene visualizzata la pagina Dettagli.
  4. Completa i seguenti passaggi dalla pagina Dettagli.
    1. Se l'istanza è in esecuzione, fai clic su Arrestaper arrestarla. Se non è presente l'opzione Arresta, fai clic suAltre azioni > Arresta.
    2. Fai clic su Modifica.
    3. Nella sezione Configurazione macchina, seleziona la famiglia di macchine GPU, quindi procedi nel seguente modo:
      1. Nell'elenco Numero di GPU, aumenta o diminuisci il numero di GPU.
    4. Per applicare le modifiche, fai clic su Salva.
    5. Per riavviare l'istanza, fai clic su Avvia/Riprendi.

REST

Puoi modificare il numero di GPU sull'istanza arrestandola e cambiando il tipo di macchina. A ogni tipo di macchina ottimizzata per l'acceleratore è collegato un numero specifico di GPU. Se modifichi il tipo di macchina, viene regolato di conseguenza il numero di GPU collegate all'istanza.

  1. Verifica che tutte le applicazioni critiche siano arrestate sull'istanza, quindi crea una richiesta POST per arrestare l'istanza in modo che possa passare a un sistema host in cui sono disponibili le GPU.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/stop
  2. Dopo l'arresto dell'istanza, crea una richiesta POST per modificare il tipo di macchina.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setMachineType
    {
    machineType: "zones/ZONE/machineTypes/MACHINE_TYPE"
    }
  3. Crea una richiesta POST per avviare l'istanza.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/start

Sostituisci quanto segue:

Limitazioni

Istanze G4

Istanze G2

Istanze A2

Istanze N1 per uso generico

Questa sezione spiega come aggiungere, modificare o rimuovere GPU da un'istanza VM creata con un tipo di macchina N1 per uso generico.

In sintesi, la procedura per aggiungere, modificare o rimuovere GPU da un'istanza esistente è la seguente:

  1. Verifica che l'istanza abbia una dimensione del disco di avvio di almeno 40 GiB.
  2. Arresta l'istanza.
  3. Aggiungi, modifica o rimuovi le GPU.
    Se alla tua istanza N1 non sono collegate GPU, devi completare i seguenti passaggi:
    1. Prepara l'istanza per la modifica.
    2. Modifica l'impostazione di manutenzione dell'host per l'istanza. Le istanze con GPU non possonoessere sottoposte a migrazione liveperché sono assegnate a dispositivi hardware specifici. Per ulteriori informazioni, consulta le limitazioni delle GPU.
    3. Cambia il tipo di macchina. Le GPU sono supportate solo sutipi di macchine N1 selezionati.
    4. Installa un driver GPU sull'istanza, in modo che il sistema possa utilizzare il dispositivo GPU.

Prepara l'istanza

Quando una GPU viene aggiunta a un'istanza, l'ordine dell'interfaccia di rete può cambiare.

La maggior parte delle immagini pubbliche su Compute Engine non ha nomi di interfaccia di rete permanenti e si adatta al nuovo ordine.

Tuttavia, se utilizzi SLES o un'immagine personalizzata, devi aggiornare le impostazioni di sistema per evitare che l'interfaccia di rete diventi persistente. Per evitare che l'interfaccia di rete venga mantenuta, esegui il seguente comando sull'istanza:

rm /etc/udev/rules.d/70-persistent-net.rules

Aggiungi GPU o modifica il tipo di GPU sulle istanze esistenti

Questa sezione spiega come aggiungere GPU o modificare il tipo di GPU su un'istanza N1 per uso generico esistente. Questa procedura supporta i seguenti tipi di GPU:

GPU NVIDIA:

Workstation virtuale (vWS) NVIDIA RTX (precedentemente nota come NVIDIA GRID):

Console

Per aggiungere GPU o modificare il tipo di GPU, completa i seguenti passaggi.

  1. Verifica che tutte le applicazioni critiche siano arrestate sull'istanza.
  2. Nella console Google Cloud , vai alla pagina Istanze VM per visualizzare l'elenco delle istanze.
    Vai a Istanze VM
  3. Fai clic sul nome dell'istanza da aggiornare. Viene visualizzata la pagina Dettagli.
  4. Completa i seguenti passaggi dalla pagina Dettagli.
    1. Se l'istanza è in esecuzione, fai clic su Arresta. Se non è presente l'opzione Arresta, fai clic suAltre azioni > Arresta.
    2. Fai clic su Modifica.
    3. Nella sezione Configurazione macchina, seleziona la famiglia di macchine GPU, quindi procedi nel seguente modo:
      1. Nell'elenco Tipo di GPU, seleziona o passa a uno dei tipi di GPU supportate sulle VM N1.
      2. Nell'elenco Numero di GPU, seleziona il numero di GPU.
      3. Se il modello di GPU supportale workstation virtuali (vWS) NVIDIA RTX per i workload graficie prevedi di eseguire workload ad alta intensità di grafica su questa istanza, seleziona Attiva workstation virtuale (NVIDIA GRID).
    4. Se all'istanza non erano state collegate GPU, completa quanto segue:
      1. Se l'istanza ha un tipo di macchina con core condivisi, devi modificarlo. Nell'elenco Tipo di macchina, seleziona uno dei tipi di macchina N1 predefiniti. In alternativa, puoi anche specificare impostazioni per i tipi di macchina personalizzata.
      2. Nella sezione Gestione, completa quanto segue:
        1. Nell'elenco Host in manutenzione, seleziona Termina istanza VM. Le istanze con GPU collegate non possono essere sottoposte a migrazione live. VediGestisci gli eventi dell'host GPU.
        2. Nell'elenco Riavvio automatico, seleziona Attivo.
    5. Per applicare le modifiche, fai clic su Salva.
    6. Per riavviare la VM, fai clic su Avvia/Riprendi.

REST

Puoi aggiungere o modificare le GPU sull'istanza arrestandola e modificando la configurazione dell'istanza tramite l'API.

  1. Verifica che tutte le applicazioni critiche siano arrestate sull'istanza e crea una richiesta POST per arrestare l'istanza in modo che possa passare a un sistema host in cui sono disponibili le GPU.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/stop
  2. Se alla tua istanza non sono collegate GPU, completa i seguenti passaggi:
    1. Identifica il tipo di GPU che vuoi aggiungere all'istanza. Puoi inviare una richiesta GET per generare un elenco dei tipi di GPU disponibili per il tuo progetto in una zona specifica.
      GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes
    2. Se l'istanza ha un tipo di macchina con core condiviso, devimodificare il tipo di macchinain modo che abbia una o più vCPU. Non puoi aggiungere acceleratori alle istanze con tipi di macchine con core condivisi.
    3. Crea una richiesta POST per impostare le opzioni di pianificazione per l'istanza.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setScheduling
      {
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": true
      }
  3. Crea una richiesta POST per aggiungere o modificare le GPU collegate alla tua istanza.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/setMachineResources
    {
    "guestAccelerators": [
    {
    "acceleratorCount": ACCELERATOR_COUNT,
    "acceleratorType": "https://www.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
    ]
    }
  4. Crea una richiesta POST per avviare l'istanza.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/VM_NAME/start
    Sostituisci quanto segue:
    • PROJECT_ID: il tuo ID progetto.
    • VM_NAME: il nome dell'istanza a cui vuoi aggiungere GPU.
    • ZONE: la zona in cui si trova l'istanza
    • ACCELERATOR_COUNT: il numero di GPU che vuoi collegare all'istanza. Per un elenco dei limiti delle GPU in base al tipo di macchina dell'istanza, consulta GPU su Compute Engine.
    • ACCELERATOR_TYPE: ilmodello di GPU a cui vuoi collegarti o passare. Se prevedi di eseguire workload ad alta intensità di grafica su questa istanza, utilizza uno dei modelli di workstation virtuale.
      Scegli uno dei seguenti valori:
      * GPU NVIDIA:
      * NVIDIA T4: nvidia-tesla-t4
      * NVIDIA P4: nvidia-tesla-p4
      * NVIDIA P100: nvidia-tesla-p100
      * NVIDIA V100: nvidia-tesla-v100
      * Workstation virtuale (vWS) NVIDIA RTX (precedentemente nota come NVIDIA GRID):
      * NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
      * NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws
      * NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws
      Per queste workstation virtuali, all'istanza viene aggiunta automaticamente una licenza per workstation virtuale (vWS) NVIDIA RTX.

Installa i driver

Per installare i driver, scegli una delle seguenti opzioni:

Rimuovi le GPU

Questa sezione spiega come rimuovere i seguenti tipi di GPU da un'istanza N1 per uso generico esistente.

GPU NVIDIA:

Workstation virtuale (vWS) NVIDIA RTX (precedentemente nota come NVIDIA GRID):

Puoi utilizzare la Google Cloud console per rimuovere le GPU da un'istanza esistente. Per rimuovere le GPU completa i seguenti passaggi:

  1. Verifica che tutte le applicazioni critiche siano arrestate sull'istanza.
  2. Nella console Google Cloud , vai alla pagina Istanze VM per visualizzare l'elenco delle istanze.
    Vai a Istanze VM
  3. Fai clic sul nome dell'istanza da cui vuoi rimuovere le GPU. Viene visualizzata la pagina Dettagli.
  4. Completa i seguenti passaggi dalla pagina Dettagli.
    1. Se l'istanza è in esecuzione, fai clic su Arrestaper arrestarla. Se non è presente l'opzione Arresta, fai clic suAltre azioni > Arresta.
    2. Nella barra degli strumenti, fai clic su Modifica.
    3. Nella sezione Configurazione macchina, seleziona la famiglia di macchine Per uso generico e poi procedi nel seguente modo:
      1. Per visualizzare le GPU collegate, espandi Configurazioni avanzate.
      2. Nella sezione GPU, rimuovi le GPU utilizzando una delle seguenti opzioni:
        * Per rimuovere alcune GPU, nell'elenco Numero di GPU, seleziona un nuovo numero.
        * Per rimuovere tutte le GPU, fai clic suElimina GPU.
    4. (Facoltativo) Modifica l'impostazione della policy di manutenzione dell'host dell'istanza. Le istanze con GPU devono avere la policy di manutenzione dell'host impostata suTermina istanza VM. Tuttavia, se hai rimosso tutte le GPU, hai la possibilità di eseguire la migrazione live di questa istanza durante la manutenzione dell'host. Per maggiori informazioni, consultaImposta la policy di manutenzione dell'host della VM.
    5. Per applicare le modifiche, fai clic su Salva.
    6. Per riavviare l'istanza, fai clic su Avvia/Riprendi.

Passaggi successivi