1. Introduzione
Questo codelab mostra come creare ed eseguire il deployment di un'app di chat basata su IA su un'applicazione web come servizio Cloud Run su Google Cloud. Questa app di chat consente agli utenti di eseguire query e ottenere una risposta utilizzando il modello PaLM per Chat Bison ( text-chat).
Cosa creerai
Creerai
- Un ambiente in Google Cloud per eseguire l'applicazione
- Un'immagine Docker per l'applicazione
- Un servizio Cloud Run che esegue l'applicazione
2. Requisiti
3. Prima di iniziare
- Nella pagina del selettore dei progetti della console Google Cloud, seleziona o crea un progetto Google Cloud.
- Assicurati che la fatturazione sia abilitata per il tuo progetto Google Cloud. Scopri come controllare se la fatturazione è abilitata su un progetto
- Attiva Cloud Shell dalla console Google Cloud seguendo le istruzioni riportate qui
- Se il progetto non è configurato, utilizza il comando seguente per impostarlo:
gcloud config set project <YOUR_PROJECT_ID>
- In Cloud Shell, imposta le seguenti variabili di ambiente:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- Abilita le API Google Cloud necessarie eseguendo questi comandi nel terminale Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
4. Configura l'ambiente
- Per copiare il codice campione nel tuo progetto, clona il repository in Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- Questo comando clonerà i contenuti del repository nella cartella genai-templates-googlecloud.
- Vai alla cartella del progetto che ci interessa eseguendo questo comando dal terminale Cloud Shell:
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
- Imposta le seguenti variabili di ambiente per l'inizializzazione di Vertex AI:
GCP_PROJECT : l'ID del tuo progetto Google Cloud. Ad esempio: mio_progetto.
GCP_REGION : la regione in cui vuoi eseguire il deployment della funzione Cloud Functions. Ad esempio: us-central1.
export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'
5. Crea un'immagine Docker
Per creare un'immagine Docker per l'applicazione ed eseguirne il push in Artifact Registry, segui questi passaggi:
- Imposta una variabile di ambiente per il repository Artifact Registry. I nomi possono contenere solo lettere minuscole, numeri e trattini. Devono iniziare con una lettera e terminare con una lettera o un numero. Ad esempio: my-chat-app-repo.
export AR_REPO='my-chat-app-repo'
- Imposta una variabile di ambiente per il nome del servizio. Ad esempio: chat-flask-app.
export SERVICE_NAME='chat-flask-app'
- Crea il tuo repository nel formato Docker.
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
- Configura l'autenticazione Docker.
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
- Crea l'immagine.
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
- Per verificare se viene eseguito il push dell'immagine ad Artifact Registry, vai alla pagina di Artifact Registry. Cerca il repository che hai creato in questa pagina.
6. Esegui il deployment dell'applicazione
- Eseguire il deployment dell'applicazione come servizio su Cloud Run.
gcloud run deploy "$SERVICE_NAME" \
--port=8080 \
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \
--allow-unauthenticated \
--region=$GCP_REGION \
--platform=managed \
--project=$GCP_PROJECT \
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION
Il completamento di questo passaggio potrebbe richiedere alcuni secondi.
- Per avviare l'applicazione di chat, fai clic sull'URL del servizio.
L'applicazione di chat si apre in una nuova scheda, come mostrato nello screenshot seguente:
7. Esegui la pulizia
Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo post, segui questi passaggi:
- Nella console Google Cloud, vai alla pagina Gestisci risorse.
- Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
- Nella finestra di dialogo, digita l'ID progetto, quindi fai clic su Chiudi per eliminare il progetto.
- Se vuoi conservare il progetto, salta i passaggi precedenti ed elimina il servizio Cloud Run andando a Cloud Run e, nell'elenco dei servizi, seleziona il servizio che vuoi eliminare e fai clic su ELIMINA.
8. Complimenti
Complimenti! Hai creato ed eseguito correttamente il deployment di un'app di chat basata su AI per un'applicazione web come servizio Cloud Run su Google Cloud. Puoi utilizzare questa app di chat per consentire agli utenti di inserire la query e questa app richiamerà il modello di chat di Vertex AI e fornirà la risposta.