Aplikacja do obsługi czatu z interfejsem PaLM API w Cloud Run

1. Wprowadzenie

To ćwiczenie pokazuje, jak utworzyć i wdrożyć aplikację do obsługi czatu opartą na AI w aplikacji internetowej jako usługę Cloud Run w Google Cloud. Ta aplikacja do obsługi czatu umożliwia użytkownikom zadawanie pytań i uzyskiwanie odpowiedzi przy użyciu modelu PaLM for Chat Bison ( text-chat).

Co utworzysz

Utworzysz

  • środowisko w Google Cloud do uruchamiania aplikacji;
  • Obraz Dockera aplikacji
  • usługa Cloud Run, która uruchamia aplikację;

2. Wymagania

  • przeglądarka, np. Chrome lub Firefox;
  • projekt Google Cloud z włączonymi płatnościami;

3. Zanim zaczniesz

  1. W konsoli Google Cloud na stronie selektora projektu wybierz lub utwórz projekt Google Cloud.
  2. Sprawdź, czy w projekcie Google Cloud włączone są płatności. Dowiedz się, jak sprawdzić, czy w projekcie włączone są płatności
  3. Aktywuj Cloud Shell w konsoli Google Cloud, postępując zgodnie z instrukcjami tutaj.
  4. Jeśli projekt nie jest ustawiony, użyj tego polecenia, aby go ustawić:
gcloud config set project <YOUR_PROJECT_ID>
  1. W Cloud Shell ustaw te zmienne środowiskowe:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Włącz niezbędne interfejsy API Google Cloud, wykonując w terminalu Cloud Shell te polecenia:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Konfigurowanie środowiska

  1. Aby skopiować przykładowy kod do projektu, sklonuj repozytorium w Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. To polecenie sklonuje zawartość repozytorium do folderu genai-templates-googlecloud.
  2. Przejdź do folderu projektu, który Cię interesuje, wykonując to polecenie w terminalu Cloud Shell:
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
  1. Ustaw następujące zmienne środowiskowe na potrzeby inicjowania Vertex AI:

GCP_PROJECT : identyfikator Twojego projektu Google Cloud. Na przykład: mój_projekt.

GCP_REGION : region, w którym chcesz wdrożyć funkcję w Cloud Functions. Na przykład: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. Tworzenie obrazu Dockera

Aby utworzyć obraz Dockera dla aplikacji i przekazać go do Artifact Registry, wykonaj te czynności:

  1. Ustaw zmienną środowiskową dla repozytorium Artifact Registry. Nazwy mogą zawierać tylko małe litery, cyfry i łączniki. Muszą zaczynać się od litery i kończyć się literą lub cyfrą. Na przykład: my-chat-app-repo.
export AR_REPO='my-chat-app-repo'
  1. Ustaw zmienną środowiskową dla nazwy usługi. Na przykład: chat-flask-app.
export SERVICE_NAME='chat-flask-app'
  1. Utwórz repozytorium w formacie Docker.
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
  1. Skonfiguruj uwierzytelnianie Dockera.
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
  1. Utwórz obraz.
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
  1. Aby sprawdzić, czy obraz został przesłany do Artifact Registry, otwórz stronę Artifact Registry. Na tej stronie znajdź utworzone repozytorium.

6. Wdrażanie aplikacji

  1. wdrożyć aplikację jako usługę w Cloud Run;
gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

Wykonanie tego kroku może potrwać kilka sekund.

  1. Aby uruchomić aplikację do czatowania, kliknij adres URL usługi.

56c06b62e0ac95bf.png

Aplikacja do czatowania otworzy się w nowej karcie, jak pokazano na zrzucie ekranu poniżej:

eebde9c35c171563.png

7. Czyszczenie danych

Aby uniknąć obciążenia konta Google Cloud opłatami za zasoby użyte w tym poście, wykonaj te czynności:

  1. W konsoli Google Cloud otwórz stronę Zarządzanie zasobami.
  2. Z listy projektów wybierz projekt do usunięcia, a potem kliknij Usuń.
  3. W oknie wpisz identyfikator projektu i kliknij Wyłącz, aby usunąć projekt.
  4. Jeśli chcesz zachować projekt, pomiń powyższe kroki i usuń usługę Cloud Run. W tym celu otwórz Cloud Run, na liście usług zaznacz tę, którą chcesz usunąć, i kliknij USUŃ.

8. Gratulacje

Gratulacje! Udało Ci się utworzyć i wdrożyć aplikację do obsługi czatu opartą na AI dla aplikacji internetowej jako usługę Cloud Run w Google Cloud. Za pomocą tej aplikacji do obsługi czatu użytkownicy mogą wpisywać zapytania, a aplikacja będzie wywoływać model czatu Vertex AI i udzielać odpowiedzi.