1. Introduzione
Questo codelab mostra come richiamare una funzione Cloud Functions che inizializza il modulo Vertex AI e fornisce un endpoint per richiamare il modello PaLM Text Bison. Questa funzione Cloud Functions è scritta in Python. Di seguito è riportato l'elenco dei servizi utilizzati:
- Cloud Functions
- API Vertex AI PaLM
Cosa creerai
Creerai ed eseguirai il deployment di una funzione Cloud Functions che fornisce un endpoint per richiamare il modello Text Bison di PaLM.
2. Requisiti
3. Prima di iniziare
- Nella console Google Cloud, nella pagina di selezione del progetto, seleziona o crea un progetto Google Cloud.
- Assicurati che la fatturazione sia attivata per il tuo progetto Google Cloud. Scopri come verificare se la fatturazione è abilitata per un progetto.
- Attiva Cloud Shell dalla console Google Cloud seguendo le istruzioni riportate qui.
- Se il progetto non è impostato, utilizza il seguente comando per impostarlo:
gcloud config set project <YOUR_PROJECT_ID>
- In Cloud Shell, imposta le seguenti variabili di ambiente:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- Abilita le API Cloud Google necessarie eseguendo i seguenti comandi nel terminale Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
4. Esegui il deployment della funzione Cloud Functions
Per creare ed eseguire il deployment di Cloud Functions:
- Clona il codice dal repository https://github.com/rominirani/genai-apptemplates-googlecloud eseguendo questo comando nel terminale Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- Questo comando clona i contenuti del repository nella cartella genai-templates-googlecloud.
- Vai alla cartella del progetto che ci interessa eseguendo questo comando dal terminale Cloud Shell:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
- Dovresti visualizzare i file main.py e requirements.txt nella cartella text-predict-cloudfunction eseguendo il comando dir o accedendo all'editor di Cloud Shell.
- Per eseguire il deployment della funzione cloud, esegui il comando gcloud functions deploy:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1
Dopo aver eseguito il deployment della funzione Cloud Functions, l'URL della funzione Cloud Functions di cui è stato eseguito il deployment viene visualizzato nel terminale Cloud Shell. L'URL ha il seguente formato:
https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText
5. Richiamare la funzione Cloud Functions
Poiché questa funzione Cloud Functions è sottoposta a deployment con un trigger HTTP, puoi richiamarla direttamente. Ecco una chiamata di esempio:
curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
"prompt": "What are the best places to visit in the United States?"
}'
L'output ha il seguente aspetto:
6. Esegui la pulizia
Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo post, segui questi passaggi:
- Nella console Google Cloud, vai alla pagina Gestisci risorse.
- Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
- Nella finestra di dialogo, digita l'ID progetto, quindi fai clic su Chiudi per eliminare il progetto.
- Se vuoi conservare il progetto, salta i passaggi precedenti ed elimina la funzione Cloud navigando in Cloud Functions, selezionando la funzione che vuoi eliminare dall'elenco e facendo clic su ELIMINA.
7. Complimenti
Complimenti! Hai utilizzato correttamente una funzione Cloud Functions che esegue il wrapping del modello Text Bison di PaLM. Consulta la documentazione del prodotto Vertex AI LLM per scoprire di più sui modelli disponibili.