Cloud Function yang menggabungkan Model Bison PaLM Text

1. Pengantar

Codelab ini menunjukkan cara memanggil Cloud Function yang melakukan inisialisasi modul Vertex AI, lalu menyediakan endpoint untuk memanggil model PaLM Text Bison. Cloud Function ini ditulis dalam Python. Berikut adalah daftar layanan yang digunakan:

  • Cloud Functions
  • Vertex AI PaLM API

Yang akan Anda bangun

Anda akan membuat dan men-deploy Cloud Function yang menyediakan endpoint untuk memanggil model PaLM Text Bison.

2. Persyaratan

  • Browser, seperti Chrome atau Firefox
  • Project Google Cloud yang mengaktifkan penagihan

3. Sebelum memulai

  1. Di Konsol Google Cloud, pada halaman pemilih project, pilih atau buat project Google Cloud
  2. Pastikan penagihan diaktifkan untuk project Google Cloud Anda. Pelajari cara memeriksa apakah penagihan diaktifkan pada sebuah project
  3. Aktifkan Cloud Shell dari Konsol Google Cloud dengan mengikuti petunjuk di sini
  4. Jika project Anda belum ditetapkan, gunakan perintah berikut untuk menetapkannya:
gcloud config set project <YOUR_PROJECT_ID>
  1. Di Cloud Shell, tetapkan variabel lingkungan berikut:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Aktifkan Google Cloud API yang diperlukan dengan menjalankan perintah berikut di Terminal Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Men-deploy Cloud Function

Untuk membuat dan men-deploy Cloud Functions, ikuti langkah-langkah berikut:

  1. Clone kode dari repo https://github.com/rominirani/genai-apptemplates-googlecloud dengan menjalankan perintah berikut di terminal Cloud Shell Anda:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. Perintah ini akan meng-clone konten repo ke dalam folder genai-templates-googlecloud.
  2. Buka folder project yang penting bagi kita dengan menjalankan perintah berikut dari Terminal Cloud Shell:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. Anda akan melihat file main.py dan requirements.txt di folder text-predict-cloudfunction dengan menjalankan perintah dir atau dengan membuka Cloud Shell Editor.
  2. Untuk men-deploy Cloud Function, jalankan perintah gcloud functions deploy:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

Setelah Anda men-deploy Cloud Function, URL Cloud Function yang telah di-deploy akan ditampilkan di Terminal Cloud Shell. URL menggunakan format berikut:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. Memanggil Cloud Function

Karena Cloud Function ini di-deploy dengan pemicu HTTP, Anda dapat langsung memanggilnya. Berikut adalah contoh panggilan:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

Outputnya akan terlihat seperti ini:

3470e0a6d0a30b37.pngS

6. Pembersihan

Agar tidak menimbulkan biaya pada akun Google Cloud Anda untuk resource yang digunakan dalam posting ini, ikuti langkah-langkah berikut:

  1. Di konsol Google Cloud, buka halaman Manage resource.
  2. Dalam daftar project, pilih project yang ingin dihapus, lalu klik Delete.
  3. Pada dialog, ketik project ID, lalu klik Shut down untuk menghapus project.
  4. Jika Anda ingin menyimpan project, lewati langkah-langkah di atas dan hapus Cloud Function dengan membuka Cloud Functions. Dari daftar fungsi, centang fungsi yang ingin dihapus, lalu klik DELETE.

7. Selamat

Selamat! Anda telah berhasil menggunakan Cloud Function yang menggabungkan Model PaLM Text Bison. Lihat dokumentasi produk LLM Vertex AI untuk mempelajari lebih lanjut model yang tersedia.