Ứng dụng Chat có API PaLM trên Cloud Run

1. Giới thiệu

Lớp học lập trình này hướng dẫn cách xây dựng và triển khai một ứng dụng trò chuyện dựa trên AI trên một ứng dụng web dưới dạng dịch vụ Cloud Run trên Google Cloud. Ứng dụng trò chuyện này cho phép người dùng truy vấn và nhận câu trả lời bằng cách sử dụng mô hình PaLM for Chat Bison ( text-chat).

Sản phẩm bạn sẽ tạo ra

Bạn sẽ tạo

Một môi trường trong Google Cloud để chạy ứng dụng
Một hình ảnh Docker cho ứng dụng
Một dịch vụ Cloud Run chạy ứng dụng

2. Yêu cầu

Một trình duyệt, chẳng hạn như Chrome hoặc Firefox
Một dự án Google Cloud đã bật tính năng thanh toán

3. Trước khi bắt đầu

Trong Google Cloud Console, trên trang bộ chọn dự án, hãy chọn hoặc tạo một dự án Google Cloud
Đảm bảo bạn đã bật tính năng thanh toán cho dự án trên đám mây của Google Cloud. Tìm hiểu cách kiểm tra xem tính năng thanh toán đã được bật cho một dự án hay chưa
Kích hoạt Cloud Shell từ bảng điều khiển Cloud bằng cách làm theo hướng dẫn tại đây
Nếu dự án của bạn chưa được thiết lập, hãy dùng lệnh sau để thiết lập:

gcloud config set project <YOUR_PROJECT_ID>

Trong Cloud Shell, hãy thiết lập các biến môi trường sau:

export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1

Bật các Cloud APIs của Google Cloud cần thiết bằng cách thực thi các lệnh sau trong Cloud Shell Terminal:

gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Thiết lập môi trường

Để sao chép mã mẫu vào dự án, hãy sao chép kho lưu trữ trong Cloud Shell:

git clone https://github.com/rominirani/genai-apptemplates-googlecloud

Lệnh này sẽ sao chép nội dung kho lưu trữ vào thư mục genai-templates-googlecloud.
Chuyển đến thư mục của dự án mà chúng ta quan tâm bằng cách thực thi lệnh sau từ Cloud Shell Terminal:

cd genai-apptemplates-googlecloud/chat-flask-cloudrun

Thiết lập các biến môi trường sau để khởi chạy Vertex AI:

GCP_PROJECT : Mã dự án Google Cloud. Ví dụ: my_project.

GCP_REGION : Vùng mà bạn muốn triển khai Cloud Function. Ví dụ: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. Tạo hình ảnh Docker

Để tạo hình ảnh Docker cho ứng dụng và đẩy hình ảnh đó lên Artifact Registry, hãy làm như sau:

Thiết lập một biến môi trường cho kho lưu trữ Artifact Registry. Tên chỉ có thể chứa các chữ cái viết thường, số và dấu gạch nối, đồng thời phải bắt đầu bằng một chữ cái và kết thúc bằng một chữ cái hoặc số. Ví dụ: my-chat-app-repo.

export AR_REPO='my-chat-app-repo'

Thiết lập một biến môi trường cho tên dịch vụ. Ví dụ: chat-flask-app.

export SERVICE_NAME='chat-flask-app'

Tạo kho lưu trữ ở định dạng Docker.

gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker

Định cấu hình tính năng xác thực Docker.

gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"

Tạo hình ảnh.

gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"

Để xác minh xem hình ảnh có được đẩy lên Artifact Registry hay không, hãy chuyển đến trang Artifact Registry. Tìm kho lưu trữ mà bạn đã tạo trên trang này.

6. Triển khai ứng dụng

Triển khai ứng dụng dưới dạng dịch vụ trên Cloud Run.

gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

Bước này có thể mất vài giây để hoàn tất.

Để chạy ứng dụng trò chuyện, hãy nhấp vào URL dịch vụ.

Ứng dụng trò chuyện sẽ mở trong một thẻ mới như trong ảnh chụp màn hình sau:

7. Dọn dẹp

Để tránh bị tính phí vào tài khoản Google Cloud cho các tài nguyên được sử dụng trong bài đăng này, hãy làm theo các bước sau:

Trong bảng điều khiển Cloud, hãy chuyển đến trang Quản lý tài nguyên.
Trong danh sách dự án, hãy chọn dự án mà bạn muốn xoá, rồi nhấp vào Delete (Xoá).
Trong hộp thoại, hãy nhập mã dự án, rồi nhấp vào Shut down (Tắt) để xoá dự án.
Nếu muốn giữ lại dự án, hãy bỏ qua các bước trên và xoá dịch vụ Cloud Run bằng cách chuyển đến Cloud Run rồi trong danh sách dịch vụ, hãy đánh dấu vào dịch vụ mà bạn muốn xoá và nhấp vào DELETE (XOÁ).

8. Xin chúc mừng

Xin chúc mừng! Bạn đã xây dựng và triển khai thành công một ứng dụng trò chuyện dựa trên AI cho một ứng dụng web dưới dạng dịch vụ Cloud Run trên Google Cloud. Bạn có thể dùng ứng dụng trò chuyện này để cho phép người dùng nhập truy vấn và ứng dụng này sẽ gọi mô hình trò chuyện Vertex AI và đưa ra câu trả lời.