1. Panoramica
In questo lab utilizzerai Vertex AI per eseguire un job di addestramento personalizzato.
Questo lab fa parte della serie di video Prototype to Production. Creerai un modello di classificazione delle immagini utilizzando il set di dati Flows. Per saperne di più, puoi guardare il video associato:
.
Cosa imparerai
Imparerai a:
- Crea un blocco note gestito da Vertex AI Workbench
- Configura e avvia un job di addestramento personalizzato dalla UI di Vertex AI
- Configurare e avviare un job di addestramento personalizzato con l'SDK Vertex AI per Python.
Il costo totale per l'esecuzione di questo lab su Google Cloud è di circa $1.
2. Introduzione a Vertex AI
Questo lab utilizza la più recente offerta di prodotti AI disponibile su Google Cloud. Vertex AI integra le offerte ML di Google Cloud in un'esperienza di sviluppo fluida. In precedenza, i modelli addestrati con AutoML e i modelli personalizzati erano accessibili tramite servizi separati. La nuova offerta combina entrambi in un'unica API, insieme ad altri nuovi prodotti. Puoi anche migrare progetti esistenti su Vertex AI.
Vertex AI include molti prodotti diversi per supportare i flussi di lavoro ML end-to-end. Questo lab è incentrato sui prodotti evidenziati di seguito: Formazione e Workbench
3. Configura l'ambiente
Per eseguire questo codelab, è necessario un progetto Google Cloud con fatturazione abilitata. Per creare un progetto, segui le istruzioni riportate qui.
Passaggio 1: abilita l'API Compute Engine
Passa a Compute Engine e seleziona Abilita se non è già abilitato.
Passaggio 2: abilita l'API Artifact Registry
Passa ad Artifact Registry e seleziona Abilita, se non è già selezionato. Lo utilizzerai per creare un container per il tuo job di addestramento personalizzato.
Passaggio 3: abilita l'API Vertex AI
Vai alla sezione Vertex AI della tua console Cloud e fai clic su Abilita API Vertex AI.
Passaggio 4: crea un'istanza di Vertex AI Workbench
Dalla sezione Vertex AI della console Cloud, fai clic su Workbench:
Abilita l'API Notebooks, se non lo è già.
Dopo averla attivata, fai clic su NOTEBOOK GESTITI:
Quindi seleziona NUOVO Blocco note.
Assegna un nome al tuo blocco note e seleziona Account di servizio in Autorizzazione
Seleziona Impostazioni avanzate.
In Sicurezza, seleziona "Attiva terminale". se non è già abilitato.
Puoi lasciare invariate tutte le altre impostazioni avanzate.
Quindi, fai clic su Crea. Il provisioning dell'istanza richiederà un paio di minuti.
Dopo aver creato l'istanza, seleziona APRI JUPYTERLAB.
4. containerizza il codice dell'applicazione di addestramento
Invierai questo job di addestramento a Vertex AI inserendo il codice dell'applicazione di addestramento in un container Docker ed eseguendo il push di questo container a Google Artifact Registry. Con questo approccio, puoi addestrare un modello creato con qualsiasi framework.
Per iniziare, dal menu Avvio app, apri una finestra Terminale nell'istanza del blocco note:
Passaggio 1: crea un bucket Cloud Storage
In questo job di addestramento, esporterai il modello TensorFlow addestrato in un bucket Cloud Storage. Archivierai i dati anche per l'addestramento in un bucket Cloud Storage.
Dal tuo terminale, esegui quanto segue per definire una variabile env per il tuo progetto, assicurandoti di sostituire your-cloud-project con l'ID del tuo progetto:
PROJECT_ID='your-cloud-project'
Quindi, esegui questo comando nel terminale per creare un nuovo bucket nel tuo progetto.
BUCKET="gs://${PROJECT_ID}-bucket"
gsutil mb -l us-central1 $BUCKET
Passaggio 2: copia i dati nel bucket Cloud Storage
Dobbiamo inserire il nostro set di dati sui fiori in Cloud Storage. A scopo dimostrativo, dovrai prima scaricare il set di dati in questa istanza di Workbench, quindi copiarlo in un bucket.
Scaricare i dati e annullarne l'utilizzo.
wget https://storage.googleapis.com/download.tensorflow.org/example_images/flower_photos.tgz
tar xvzf flower_photos.tgz
quindi copialo nel bucket appena creato. Aggiungiamo -r perché vogliamo copiare l'intera directory e -m per eseguire una copia con più elaborazioni, velocizzando così le operazioni.
gsutil -m cp -r flower_photos $BUCKET
Passaggio 3: scrivi il codice di addestramento
Crea una nuova directory chiamata flowers e accedi tramite cd:
mkdir flowers
cd flowers
Esegui questo comando per creare una directory per il codice di addestramento e un file Python in cui aggiungerai il codice.
mkdir trainer
touch trainer/task.py
Ora dovresti avere quanto segue nella directory flowers/:
+ trainer/
+ task.py
Per maggiori dettagli su come strutturare il codice dell'applicazione di addestramento, consulta la documentazione.
Successivamente, apri il file task.py che hai appena creato e copia il codice seguente.
Dovrai sostituire {your-gcs-bucket} con il nome del bucket Cloud Storage che hai appena creato.
Tramite lo strumento Cloud Storage FUSE, i job di addestramento su Vertex AI Training possono accedere ai dati su Cloud Storage come file nel file system locale. Quando avvii un job di addestramento personalizzato, il job vede una directory /gcs contenente tutti i bucket Cloud Storage come sottodirectory. Ecco perché i percorsi dei dati nel codice di addestramento iniziano con /gcs.
import tensorflow as tf
import numpy as np
import os
## Replace {your-gcs-bucket} !!
BUCKET_ROOT='/gcs/{your-gcs-bucket}'
# Define variables
NUM_CLASSES = 5
EPOCHS=10
BATCH_SIZE = 32
IMG_HEIGHT = 180
IMG_WIDTH = 180
DATA_DIR = f'{BUCKET_ROOT}/flower_photos'
def create_datasets(data_dir, batch_size):
'''Creates train and validation datasets.'''
train_dataset = tf.keras.utils.image_dataset_from_directory(
data_dir,
validation_split=0.2,
subset="training",
seed=123,
image_size=(IMG_HEIGHT, IMG_WIDTH),
batch_size=batch_size)
validation_dataset = tf.keras.utils.image_dataset_from_directory(
data_dir,
validation_split=0.2,
subset="validation",
seed=123,
image_size=(IMG_HEIGHT, IMG_WIDTH),
batch_size=batch_size)
train_dataset = train_dataset.cache().shuffle(1000).prefetch(buffer_size=tf.data.AUTOTUNE)
validation_dataset = validation_dataset.cache().prefetch(buffer_size=tf.data.AUTOTUNE)
return train_dataset, validation_dataset
def create_model():
'''Creates model.'''
model = tf.keras.Sequential([
tf.keras.layers.Resizing(IMG_HEIGHT, IMG_WIDTH),
tf.keras.layers.Rescaling(1./255, input_shape=(IMG_HEIGHT, IMG_WIDTH, 3)),
tf.keras.layers.Conv2D(16, 3, padding='same', activation='relu'),
tf.keras.layers.MaxPooling2D(),
tf.keras.layers.Conv2D(32, 3, padding='same', activation='relu'),
tf.keras.layers.MaxPooling2D(),
tf.keras.layers.Conv2D(64, 3, padding='same', activation='relu'),
tf.keras.layers.MaxPooling2D(),
tf.keras.layers.Flatten(),
tf.keras.layers.Dense(128, activation='relu'),
tf.keras.layers.Dense(NUM_CLASSES, activation='softmax')
])
return model
# CREATE DATASETS
train_dataset, validation_dataset = create_datasets(DATA_DIR, BATCH_SIZE)
# CREATE/COMPILE MODEL
model = create_model()
model.compile(optimizer=tf.keras.optimizers.Adam(),
loss=tf.keras.losses.SparseCategoricalCrossentropy(),
metrics=['accuracy'])
# TRAIN MODEL
history = model.fit(
train_dataset,
validation_data=validation_dataset,
epochs=EPOCHS
)
# SAVE MODEL
model.save(f'{BUCKET_ROOT}/model_output')
Passaggio 4: crea un Dockerfile
Per containerizzare il codice, dovrai creare un Dockerfile. Nel Dockerfile includerai tutti i comandi necessari per eseguire l'immagine. Installerà tutte le librerie necessarie e configurerà il punto di accesso per il codice di addestramento.
Dal tuo terminale, crea un Dockerfile vuoto nella radice della directory flowers:
touch Dockerfile
Ora dovresti avere quanto segue nella directory flowers/:
+ Dockerfile
+ trainer/
+ task.py
Apri il Dockerfile e copia al suo interno quanto segue:
FROM gcr.io/deeplearning-platform-release/tf2-gpu.2-8
WORKDIR /
# Copies the trainer code to the docker image.
COPY trainer /trainer
# Sets up the entry point to invoke the trainer.
ENTRYPOINT ["python", "-m", "trainer.task"]
Esaminiamo i comandi in questo file.
Il comando FROM specifica l'immagine di base, ovvero l'immagine padre su cui verrà creata l'immagine che crei. Come immagine di base utilizzerai l'immagine Docker GPU TensorFlow Enterprise 2.8 del container deep learning. Deep Learning Containers su Google Cloud è dotato di molti framework comuni di ML e data science preinstallati.
Il comando WORKDIR specifica la directory dell'immagine in cui vengono eseguite le istruzioni successive.
Il comando COPY copia il codice di addestramento nell'immagine Docker. Tieni presente che in questo esempio abbiamo un solo file Python nella directory di addestramento, ma per un esempio più realistico potresti avere file aggiuntivi. Forse uno chiamato data.py, che gestisce la pre-elaborazione dei dati, e l'altro model.py, che contiene solo il codice del modello e così via. Per codici di addestramento più complessi, consulta la documentazione Python sulla pacchettizzazione dei progetti Python.
Se vuoi aggiungere altre librerie, puoi utilizzare il comando RUN per eseguire il pip install (ad es. RUN pip install -r requirements.txt). Ma non abbiamo bisogno di altro per il nostro esempio.
Infine, il comando ENTRYPOINT configura il punto di ingresso per richiamare il trainer. Questo è ciò che verrà eseguito all'inizio del job di addestramento. Nel nostro caso, stiamo eseguendo il file task.py.
Puoi scoprire di più sulla scrittura di Dockerfile per Vertex AI Training qui.
Passaggio 4: crea il container
Dal terminale del blocco note di Workbench, esegui il comando riportato di seguito per definire una variabile env per il tuo progetto, assicurandoti di sostituire your-cloud-project con l'ID del tuo progetto:
PROJECT_ID='your-cloud-project'
Crea un repository in Artifact Registry
REPO_NAME='flower-app'
gcloud artifacts repositories create $REPO_NAME --repository-format=docker \
--location=us-central1 --description="Docker repository"
Definisci una variabile con l'URI dell'immagine container in Google Artifact Registry:
IMAGE_URI=us-central1-docker.pkg.dev/$PROJECT_ID/$REPO_NAME/flower_image:latest
Configura Docker
gcloud auth configure-docker \
us-central1-docker.pkg.dev
Quindi, crea il container eseguendo quanto segue dalla radice della directory flower:
docker build ./ -t $IMAGE_URI
Infine, esegui il push in Artifact Registry:
docker push $IMAGE_URI
Dopo il push del container in Artifact Registry, ora puoi avviare un job di addestramento.
5. Esegui un job di addestramento personalizzato su Vertex AI
Questo lab utilizza l'addestramento personalizzato tramite un container personalizzato su Google Artifact Registry, ma puoi anche eseguire un job di addestramento con i container predefiniti.
Per iniziare, vai alla sezione Addestramento nella sezione Vertex della console Cloud:
Passaggio 1: configura il job di addestramento
Fai clic su Crea per inserire i parametri per il job di addestramento.
- In Set di dati, seleziona Nessun set di dati gestito
- Quindi seleziona Addestramento personalizzato (avanzato) come metodo di addestramento e fai clic su Continua.
- Seleziona Addestra nuovo modello, quindi inserisci
flowers-model(o un nome che preferisci) in Nome modello - Fai clic su Continua.
Nel passaggio Impostazioni contenitore, seleziona Container personalizzato:
Nella prima casella (Immagine container), inserisci il valore della variabile IMAGE_URI della sezione precedente. Dovrebbe essere: us-central1-docker.pkg.dev/{PROJECT_ID}/flower-app/flower_image:latest, con il tuo ID progetto. Lascia vuoti gli altri campi e fai clic su Continua.
Salta il passaggio sugli iperparametri facendo di nuovo clic su Continua.
Passaggio 2: configura il cluster di computing
Configura Pool di worker 0 come segue:
Per il momento salterai il passaggio 6 e configurerai il container di previsione nel lab successivo di questa serie.
Fai clic su INIZIA ADDESTRAMENTO per iniziare il job di addestramento. Nella sezione Addestramento della console, nella scheda PIPELINE DI FORMAZIONE, vedrai il job che hai appena avviato:
🎉 Complimenti! 🎉
Hai imparato come utilizzare Vertex AI per:
- Avvia un job di addestramento personalizzato per il codice di addestramento fornito in un container personalizzato. In questo esempio hai utilizzato un modello TensorFlow, ma puoi addestrare un modello creato con qualsiasi framework utilizzando container personalizzati o integrati.
Per scoprire di più sulle diverse parti di Vertex, consulta la documentazione.
6. [Facoltativo] Utilizza l'SDK Vertex AI per Python
La sezione precedente ha mostrato come avviare il job di addestramento tramite l'interfaccia utente. In questa sezione viene visualizzato un modo alternativo per inviare il job di addestramento mediante l'SDK Vertex AI per Python.
Torna all'istanza del blocco note e crea un blocco note TensorFlow 2 dall'Avvio app:
Importa l'SDK Vertex AI.
from google.cloud import aiplatform
Quindi, crea un CustomContainerTrainingJob. Dovrai sostituire {PROJECT_ID} in container_uri con il nome del tuo progetto e dovrai sostituire {BUCKET} in staging_bucket con il bucket che hai creato in precedenza.
my_job = aiplatform.CustomContainerTrainingJob(display_name='flower-sdk-job',
container_uri='us-central1-docker.pkg.dev/{PROJECT_ID}/flower-app/flower_image:latest',
staging_bucket='gs://{BUCKET}')
quindi esegui il job.
my_job.run(replica_count=1,
machine_type='n1-standard-8',
accelerator_type='NVIDIA_TESLA_V100',
accelerator_count=1)
A scopo dimostrativo, questo job è stato configurato per essere eseguito su una macchina più grande rispetto alla sezione precedente. Inoltre, stiamo eseguendo con una GPU. Se non specifichi machine-type, accelerator_type o accelerator_count, il job verrà eseguito per impostazione predefinita su un n1-standard-4.
Nella sezione Addestramento della console, nella scheda JOB PERSONALIZZATI vedrai il tuo job di addestramento.
7. Esegui la pulizia
Poiché i blocchi note gestiti da Vertex AI Workbench hanno una funzionalità di arresto per inattività, non dobbiamo preoccuparci di arrestare l'istanza. Se vuoi arrestare manualmente l'istanza, fai clic sul pulsante Arresta nella sezione Vertex AI Workbench della console. Per eliminare completamente il blocco note, fai clic sul pulsante Elimina.
Per eliminare il bucket di archiviazione, utilizzando il menu di navigazione nella console Cloud, vai a Storage, seleziona il bucket e fai clic su Elimina:
