App de chat com a API PaLM no Cloud Run

1. Introdução

Este codelab mostra como criar e implantar um app de chat baseado em IA em um aplicativo da Web como um serviço do Cloud Run no Google Cloud. Esse app de chat permite que os usuários façam consultas e recebam uma resposta usando o modelo PaLM para Chat Bison ( text-chat).

O que você vai criar

Você vai criar

  • Um ambiente no Google Cloud para executar o aplicativo
  • Uma imagem do Docker para o aplicativo
  • Um serviço do Cloud Run que executa o aplicativo

2. Requisitos

  • Use um navegador, como o Chrome ou o Firefox.
  • Tenha um projeto na nuvem do Google Cloud com o faturamento ativado.

3. Antes de começar

  1. No console do Google Cloud, na página de seletor de projetos, selecione ou crie um projeto do Google Cloud.
  2. Verifique se o faturamento está ativado para o projeto na nuvem do Google Cloud. Saiba como verificar se o faturamento está ativado em um projeto.
  3. Ative o Cloud Shell no console do Google Cloud seguindo as instruções aqui
  4. Se o projeto não estiver definido, use este comando:
gcloud config set project <YOUR_PROJECT_ID>
  1. No Cloud Shell, defina as seguintes variáveis de ambiente:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Ative as APIs do Cloud necessárias do Google Cloud executando os comandos a seguir no terminal do Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Configurar o ambiente

  1. Para copiar o exemplo de código para o projeto, clone o repositório no Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. Esse comando vai clonar o conteúdo do repositório na pasta genai-templates-googlecloud.
  2. Navegue até a pasta do projeto que nos interessa executando o comando a seguir no terminal do Cloud Shell:
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
  1. Defina as seguintes variáveis de ambiente para a inicialização da Vertex AI:

GCP_PROJECT : o ID do projeto do Google Cloud. Por exemplo: my_project.

GCP_REGION : a região em que você quer implantar a função do Cloud. Por exemplo: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. Criar uma imagem Docker

Para criar uma imagem Docker para o aplicativo e enviá-la para o Artifact Registry, faça o seguinte:

  1. Defina uma variável de ambiente para o repositório do Artifact Registry. Os nomes só podem conter letras minúsculas, números e hifens, e precisam começar e terminar com uma letra ou número. Por exemplo: my-chat-app-repo.
export AR_REPO='my-chat-app-repo'
  1. Defina uma variável de ambiente para o nome do serviço. Por exemplo: chat-flask-app.
export SERVICE_NAME='chat-flask-app'
  1. Crie o repositório no formato do Docker.
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
  1. Configure a autenticação do Docker.
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
  1. Crie a imagem.
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
  1. Para verificar se a imagem foi enviada para o Artifact Registry, acesse a página do Artifact Registry. Procure o repositório que você criou nessa página.

6. Implantar o aplicativo

  1. Implante o aplicativo como um serviço no Cloud Run.
gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

Essa etapa pode levar alguns segundos para ser concluída.

  1. Para iniciar o aplicativo de chat, clique no URL do serviço.

56c06b62e0ac95bf.png

O aplicativo de chat é aberto em uma nova guia, conforme mostrado na captura de tela a seguir:

eebde9c35c171563.png

7. Liberar espaço

Para evitar cobranças na sua conta do Google Cloud pelos recursos usados nesta postagem, siga estas etapas:

  1. No console do Google Cloud, acesse a página Gerenciar recursos.
  2. Na lista de projetos, selecione o projeto que você quer excluir e clique em Excluir.
  3. Na caixa de diálogo, digite o ID do projeto e clique em Desligar para excluir o projeto.
  4. Se você quiser manter o projeto, pule as etapas acima e exclua o serviço do Cloud Run navegando até o Cloud Run e, na lista de serviços, marque aquele que você quer excluir e clique em EXCLUIR.

8. Parabéns

Parabéns! Você criou e implantou um app de chat baseado em IA para um aplicativo da Web como um serviço do Cloud Run no Google Cloud. Você pode usar esse app de chat para permitir que os usuários insiram a consulta. Esse app vai invocar o modelo de chat da Vertex AI e fornecer a resposta.