Ứng dụng Chat có API PaLM trên Cloud Run

1. Giới thiệu

Lớp học lập trình này trình bày cách xây dựng và triển khai ứng dụng trò chuyện dựa trên AI trên một ứng dụng web dưới dạng một dịch vụ Cloud Run trên Google Cloud. Ứng dụng nhắn tin này cho phép người dùng hỏi và nhận phản hồi bằng cách sử dụng mô hình PaLM cho Chat Bison ( text-chat).

Sản phẩm bạn sẽ tạo ra

Bạn sẽ tạo

  • Một môi trường trong Google Cloud để chạy ứng dụng
  • Hình ảnh Docker cho ứng dụng
  • Dịch vụ Cloud Run chạy ứng dụng

2. Yêu cầu

  • Một trình duyệt, chẳng hạn như Chrome hoặc Firefox
  • Một dự án trên Google Cloud đã bật tính năng thanh toán

3. Trước khi bắt đầu

  1. Trong Google Cloud Console, trên trang bộ chọn dự án, hãy chọn hoặc tạo một dự án trên Google Cloud
  2. Nhớ bật tính năng thanh toán cho dự án Google Cloud của bạn. Tìm hiểu cách kiểm tra xem tính năng thanh toán có được bật trên một dự án hay không
  3. Kích hoạt Cloud Shell thông qua bảng điều khiển Google Cloud bằng cách làm theo hướng dẫn tại đây
  4. Nếu dự án của bạn chưa được thiết lập, hãy sử dụng lệnh sau để thiết lập dự án:
gcloud config set project <YOUR_PROJECT_ID>
  1. Trong Cloud Shell, hãy thiết lập các biến môi trường sau:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Bật các API Google Cloud cần thiết bằng cách thực thi các lệnh sau trong Cloud Shell Terminal:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Thiết lập môi trường

  1. Để sao chép mã mẫu vào dự án, hãy sao chép kho lưu trữ trong Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. Lệnh này sẽ sao chép nội dung kho lưu trữ vào thư mục genai-templates-googlecloud.
  2. Chuyển đến thư mục của dự án mà chúng ta quan tâm bằng cách thực thi lệnh sau trên Cloud Shell Terminal:
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
  1. Thiết lập các biến môi trường sau đây cho quy trình khởi chạy Vertex AI:

GCP_PROJECT : Mã dự án trên Google Cloud của bạn. Ví dụ: my_project.

GCP_REGION : Khu vực mà bạn muốn triển khai Chức năng đám mây của mình. Ví dụ: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. Tạo hình ảnh Docker

Để tạo hình ảnh Docker cho ứng dụng và đẩy vào Artifact Registry, hãy làm như sau:

  1. Đặt một biến môi trường cho kho lưu trữ Artifact Registry. Tên chỉ được chứa chữ cái viết thường, số và dấu gạch nối, đồng thời phải bắt đầu bằng một chữ cái và kết thúc bằng một chữ cái hoặc số. Ví dụ: my-chat-app-repo.
export AR_REPO='my-chat-app-repo'
  1. Đặt biến môi trường cho tên dịch vụ của bạn. Ví dụ: chat-flask-app.
export SERVICE_NAME='chat-flask-app'
  1. Tạo kho lưu trữ ở định dạng Docker.
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
  1. Định cấu hình xác thực Docker.
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
  1. Tạo hình ảnh.
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
  1. Để xác minh xem hình ảnh có được đẩy tới Artifact Registry hay không, hãy truy cập trang Artifact Registry. Tìm kho lưu trữ mà bạn đã tạo trên trang này.

6. Triển khai ứng dụng

  1. Triển khai ứng dụng dưới dạng dịch vụ trên Cloud Run.
gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

Bước này có thể mất vài giây thì mới hoàn tất.

  1. Để chạy ứng dụng trò chuyện, hãy nhấp vào URL của dịch vụ.

56c06b62e0ac95bf.pngS

Ứng dụng trò chuyện sẽ mở trong một thẻ mới như trong ảnh chụp màn hình sau đây:

eebde9c35c171563.png

7. Dọn dẹp

Để tránh bị tính phí vào tài khoản Google Cloud cho các tài nguyên sử dụng trong bài đăng này, hãy làm theo các bước sau:

  1. Trong bảng điều khiển Google Cloud, hãy chuyển đến trang Quản lý tài nguyên.
  2. Trong danh sách dự án, hãy chọn dự án mà bạn muốn xoá, sau đó nhấp vào Delete (Xoá).
  3. Trong hộp thoại, hãy nhập mã dự án rồi nhấp vào Tắt để xoá dự án.
  4. Nếu bạn muốn giữ lại dự án, hãy bỏ qua các bước ở trên và xoá dịch vụ Cloud Run bằng cách chuyển đến Cloud Run. Sau đó, trong danh sách dịch vụ, hãy chọn dịch vụ bạn muốn xoá rồi nhấp vào XOÁ.

8. Xin chúc mừng

Xin chúc mừng! Bạn đã xây dựng và triển khai thành công một ứng dụng trò chuyện dựa trên AI cho một ứng dụng web dưới dạng dịch vụ Cloud Run trên Google Cloud. Bạn có thể dùng ứng dụng nhắn tin này để cho phép người dùng nhập câu hỏi và ứng dụng này sẽ gọi mô hình trò chuyện của Vertex AI và đưa ra câu trả lời.