1. Introducción
En este codelab, se muestra cómo invocar una Cloud Function que inicializa el módulo de Vertex AI y, luego, proporciona un extremo para invocar el modelo de Text Bison de PaLM. Esta Cloud Function está escrita en Python. Esta es la lista de servicios usados:
- Cloud Functions
- API de PaLM de Vertex AI
Qué compilarás
Crearás e implementarás una Cloud Function que proporciona un extremo para invocar el modelo de Text Bison de PaLM.
2. Requisitos
3. Antes de comenzar
- En la consola de Google Cloud, en la página del selector de proyectos, selecciona o crea un proyecto de Google Cloud.
- Asegúrate de que la facturación esté habilitada para tu proyecto de Google Cloud. Obtén más información para verificar si la facturación está habilitada en un proyecto.
- Para activar Cloud Shell desde la consola de Google Cloud, sigue las instrucciones que se indican aquí.
- Si tu proyecto no está configurado, usa el siguiente comando para hacerlo:
gcloud config set project <YOUR_PROJECT_ID>
- En Cloud Shell, configura las siguientes variables de entorno:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- Habilita las APIs de Google Cloud necesarias ejecutando los siguientes comandos en la terminal de Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
4. Implementa la función de Cloud Functions
Para crear e implementar Cloud Functions, sigue estos pasos:
- Clona el código del repo https://github.com/rominirani/genai-apptemplates-googlecloud mediante la ejecución del siguiente comando en tu terminal de Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- Con este comando, se clonará el contenido del repositorio en la carpeta genai-templates-googlecloud.
- Navega a la carpeta del proyecto que te interese ejecutando el siguiente comando desde la terminal de Cloud Shell:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
- Deberías ver los archivos main.py y requirements.txt en la carpeta text-predict-cloudfunction. Para ello, ejecuta el comando dir o navega al editor de Cloud Shell.
- Para implementar la Cloud Function, ejecuta el comando gcloud functions deploy:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1
Después de implementar la Cloud Function, la URL de la Cloud Function que se implementó se mostrará en la terminal de Cloud Shell. La URL tiene el siguiente formato:
https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText
5. Invoca la Cloud Function
Debido a que esta Cloud Function se implementa con un activador HTTP, puedes invocarla directamente. Aquí hay un ejemplo de llamada:
curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
"prompt": "What are the best places to visit in the United States?"
}'
La salida obtenida se verá así:
6. Limpia
Sigue estos pasos para evitar que se apliquen cargos a tu cuenta de Google Cloud por los recursos que usaste en esta publicación:
- En la consola de Google Cloud, ve a la página Administrar recursos.
- En la lista de proyectos, elige el proyecto que deseas borrar y haz clic en Borrar.
- En el diálogo, escribe el ID del proyecto y, luego, haz clic en Cerrar para borrarlo.
- Si quieres conservar tu proyecto, omite los pasos anteriores y borra la Cloud Function. Para ello, navega a Cloud Functions y, en la lista de funciones, marca la que quieras borrar y haz clic en BORRAR.
7. Felicitaciones
¡Felicitaciones! Usaste correctamente una Cloud Function que une el modelo de Text Bison de PaLM. Consulta la documentación del producto Vertex AI LLM para obtener más información sobre los modelos disponibles.