1. Giới thiệu
Lớp học lập trình này cho thấy cách gọi một Hàm đám mây để khởi chạy mô-đun Vertex AI, sau đó cung cấp một điểm cuối để gọi mô hình PaLM Text Bison. Hàm đám mây này được viết bằng Python. Dưới đây là danh sách các dịch vụ được sử dụng:
- Cloud Functions
- Vertex AI PaLM API
Sản phẩm bạn sẽ tạo ra
Bạn sẽ tạo và triển khai một Hàm đám mây cung cấp một điểm cuối để gọi mô hình PaLM Text Bison.
2. Yêu cầu
3. Trước khi bắt đầu
- Trong Google Cloud Console, trên trang bộ chọn dự án, hãy chọn hoặc tạo một dự án trên Google Cloud
- Nhớ bật tính năng thanh toán cho dự án Google Cloud của bạn. Tìm hiểu cách kiểm tra xem tính năng thanh toán có được bật trên một dự án hay không
- Kích hoạt Cloud Shell thông qua bảng điều khiển Google Cloud bằng cách làm theo hướng dẫn tại đây
- Nếu dự án của bạn chưa được thiết lập, hãy sử dụng lệnh sau để thiết lập dự án:
gcloud config set project <YOUR_PROJECT_ID>
- Trong Cloud Shell, hãy thiết lập các biến môi trường sau:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- Bật các API Google Cloud cần thiết bằng cách thực thi các lệnh sau trong Cloud Shell Terminal:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
4. Triển khai chức năng đám mây
Để tạo và triển khai Cloud Functions, hãy làm theo các bước sau:
- Sao chép mã từ kho lưu trữ https://github.com/rominirani/genai-apptemplates-googlecloud bằng cách thực thi lệnh sau trong thiết bị đầu cuối Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- Lệnh này sẽ sao chép nội dung kho lưu trữ vào thư mục genai-templates-googlecloud.
- Chuyển đến thư mục của dự án mà chúng ta quan tâm bằng cách thực thi lệnh sau trên Cloud Shell Terminal:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
- Bạn sẽ thấy cả tệp main.py và requirements.txt trong thư mục text-fallback-cloudfunction bằng cách thực thi lệnh dir hoặc chuyển đến Cloud Shell Editor.
- Để triển khai Chức năng đám mây, hãy chạy lệnh gcloud function triển khai:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1
Sau khi bạn triển khai Chức năng đám mây, URL của Chức năng đám mây đã được triển khai sẽ hiển thị trên Thiết bị đầu cuối của Cloud Shell. URL có định dạng như sau:
https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText
5. Gọi hàm Cloud
Vì Hàm đám mây này được triển khai bằng một điều kiện kích hoạt HTTP, nên bạn có thể trực tiếp gọi hàm đó. Dưới đây là một cuộc gọi mẫu:
curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
"prompt": "What are the best places to visit in the United States?"
}'
Kết quả sẽ có dạng như sau:
6. Dọn dẹp
Để tránh bị tính phí vào tài khoản Google Cloud cho các tài nguyên sử dụng trong bài đăng này, hãy làm theo các bước sau:
- Trong bảng điều khiển Google Cloud, hãy chuyển đến trang Quản lý tài nguyên.
- Trong danh sách dự án, hãy chọn dự án mà bạn muốn xoá, sau đó nhấp vào Delete (Xoá).
- Trong hộp thoại, hãy nhập mã dự án rồi nhấp vào Tắt để xoá dự án.
- Nếu bạn muốn giữ lại dự án, hãy bỏ qua các bước ở trên và xoá Hàm đám mây bằng cách chuyển đến Cloud Functions và trong danh sách hàm, hãy chọn hàm bạn muốn xoá rồi nhấp vào XOÁ.
7. Xin chúc mừng
Xin chúc mừng! Bạn đã sử dụng thành công một Hàm đám mây bao bọc Mô hình PaLM Text Bison. Hãy xem tài liệu về sản phẩm mô hình ngôn ngữ lớn (LLM) trong Vertex AI để tìm hiểu thêm về các mô hình có sẵn.