1. Giới thiệu
Lớp học lập trình này trình bày cách gọi một Cloud Function khởi chạy mô-đun Vertex AI, sau đó cung cấp một điểm cuối để gọi mô hình PaLM Text Bison. Cloud Function này được viết bằng Python. Sau đây là danh sách các dịch vụ được sử dụng:
- Cloud Functions
- Vertex AI PaLM API
Sản phẩm bạn sẽ tạo ra
Bạn sẽ tạo và triển khai một Cloud Function cung cấp một điểm cuối để gọi mô hình PaLM Text Bison.
2. Yêu cầu
3. Trước khi bắt đầu
- Trong Google Cloud Console, trên trang bộ chọn dự án, hãy chọn hoặc tạo một dự án trên Google Cloud
- Đảm bảo bạn đã bật tính năng thanh toán cho dự án trên Google Cloud. Tìm hiểu cách kiểm tra xem tính năng thanh toán đã được bật trên một dự án hay chưa
- Kích hoạt Cloud Shell từ bảng điều khiển Cloud bằng cách làm theo hướng dẫn tại đây
- Nếu dự án của bạn chưa được thiết lập, hãy dùng lệnh sau để thiết lập:
gcloud config set project <YOUR_PROJECT_ID>
- Trong Cloud Shell, hãy thiết lập các biến môi trường sau:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- Bật các Cloud APIs cần thiết của Google bằng cách thực thi các lệnh sau trong Cửa sổ dòng lệnh Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
4. Triển khai Cloud Function
Để tạo và triển khai Cloud Functions, hãy làm theo các bước sau:
- Sao chép mã từ kho lưu trữ https://github.com/rominirani/genai-apptemplates-googlecloud bằng cách thực thi lệnh sau trong cửa sổ dòng lệnh Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- Lệnh này sẽ sao chép nội dung kho lưu trữ vào thư mục genai-templates-googlecloud.
- Chuyển đến thư mục của dự án mà chúng ta quan tâm bằng cách thực thi lệnh sau từ Cửa sổ dòng lệnh Cloud Shell:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
- Bạn sẽ thấy cả hai tệp main.py và requirements.txt trong thư mục text-predict-cloudfunction bằng cách thực thi lệnh dir hoặc bằng cách chuyển đến Trình chỉnh sửa Cloud Shell.
- Để triển khai Cloud Function, hãy chạy lệnh gcloud functions deploy:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1
Sau khi bạn triển khai Cloud Function, URL của Cloud Function đã triển khai sẽ xuất hiện trên Cửa sổ dòng lệnh Cloud Shell. URL có định dạng như sau:
https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText
5. Gọi Cloud Function
Vì Cloud Function này được triển khai bằng một trình kích hoạt HTTP, nên bạn có thể trực tiếp gọi Cloud Function này. Dưới đây là một lệnh gọi mẫu:
curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
"prompt": "What are the best places to visit in the United States?"
}'
Kết quả sẽ có dạng như sau:
6. Dọn dẹp
Để tránh bị tính phí vào tài khoản Google Cloud cho các tài nguyên được sử dụng trong bài đăng này, hãy làm theo các bước sau:
- Trong bảng điều khiển Cloud, hãy chuyển đến trang Quản lý tài nguyên.
- Trong danh sách dự án, hãy chọn dự án mà bạn muốn xoá, rồi nhấp vào Delete (Xoá).
- Trong hộp thoại, hãy nhập mã dự án, rồi nhấp vào Shut down (Tắt) để xoá dự án.
- Nếu bạn muốn giữ lại dự án, hãy bỏ qua các bước trên và xoá Cloud Function bằng cách chuyển đến Cloud Functions rồi trong danh sách các hàm, hãy đánh dấu vào hàm mà bạn muốn xoá và nhấp vào DELETE (XOÁ).
7. Xin chúc mừng
Xin chúc mừng! Bạn đã sử dụng thành công một Cloud Function làm lớp bao cho mô hình PaLM Text Bison. Hãy xem tài liệu về sản phẩm Vertex AI LLM để tìm hiểu thêm về các mô hình hiện có.