PaLM Metin Bison Modellerini sarmalayan Cloud Functions işlevi

1. Giriş

Bu codelab'de, Vertex AI modülünü başlatan ve ardından PaLM Text Bison modelini çağırmak için bir uç nokta sağlayan bir Cloud Functions işlevinin nasıl çağrılacağı anlatılmaktadır. Bu Cloud Functions işlevi, Python'da yazılmıştır. Kullanılan hizmetlerin listesi aşağıda verilmiştir:

  • Cloud Functions
  • Vertex AI PaLM API'si

Oluşturacaklarınız

PaLM Text Bison modelini çağırmak için uç nokta sağlayan bir Cloud Functions işlevi oluşturup dağıtacaksınız.

2. Şartlar

  • Chrome veya Firefox gibi bir tarayıcı
  • Faturalandırmanın etkin olduğu bir Google Cloud projesi

3. Başlamadan önce

  1. Google Cloud Console'daki proje seçici sayfasından bir Google Cloud projesi seçin veya oluşturun.
  2. Google Cloud projeniz için faturalandırmanın etkinleştirildiğinden emin olun. Bir projede faturalandırmanın etkin olup olmadığını nasıl kontrol edeceğinizi öğrenin.
  3. Buradaki talimatları uygulayarak Google Cloud konsolundan Cloud Shell'i etkinleştirin
  4. Projeniz ayarlanmadıysa ayarlamak için aşağıdaki komutu kullanın:
gcloud config set project <YOUR_PROJECT_ID>
  1. Cloud Shell'de aşağıdaki ortam değişkenlerini ayarlayın:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Cloud Shell Terminal'de aşağıdaki komutları çalıştırarak gerekli Google Cloud API'lerini etkinleştirin:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Cloud Functions işlevini dağıtma

Cloud Functions oluşturmak ve dağıtmak için aşağıdaki adımları uygulayın:

  1. Cloud Shell terminalinizde aşağıdaki komutu çalıştırarak https://github.com/rominirani/genai-apptemplates-googlecloud deposundaki kodu klonlayın:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. Bu komut, depo içeriğini genai-templates-googlecloud klasörüne klonlar.
  2. Cloud Shell terminalinden aşağıdaki komutu çalıştırarak projenin önemsediğimiz klasörüne gidin:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. Hem main.py hem de requirements.txt dosyalarını text-predict-cloudfunction klasöründe, dir komutunu çalıştırarak veya Cloud Shell Düzenleyici'ye giderek görebilirsiniz.
  2. Cloud Functions işlevini dağıtmak için gcloud Functions dağıtımı komutunu çalıştırın:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

Cloud Functions işlevini dağıttıktan sonra, dağıtılan Cloud Functions işlevinin URL'si Cloud Shell terminalinde gösterilir. URL, şu biçimde olur:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. Cloud Functions işlevini çağırma

Bu Cloud Functions işlevi bir HTTP tetikleyiciyle dağıtıldığından doğrudan çağırabilirsiniz. Aşağıda örnek bir görüşme görebilirsiniz:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

Çıkış şu şekilde görünür:

3470e0a6d0a30b37.png

6. Temizleme

Bu yayında kullanılan kaynaklar için Google Cloud hesabınızın ücretlendirilmesini istemiyorsanız şu adımları uygulayın:

  1. Google Cloud konsolunda Kaynakları yönetin sayfasına gidin.
  2. Proje listesinden silmek istediğiniz projeyi seçin ve ardından Sil'i tıklayın.
  3. İletişim kutusuna proje kimliğini yazın ve projeyi silmek için Kapat'ı tıklayın.
  4. Projenizi saklamak istiyorsanız yukarıdaki adımları atlayın ve Cloud Functions işlevine giderek işlev listesinden Cloud Functions işlevini silin, silmek istediğiniz öğeyi işaretleyin ve SİL'i tıklayın.

7. Tebrikler

Tebrikler! PaLM Metin Bison Modeli'ni sarmalayan bir Cloud Functions işlevini başarıyla kullandınız. Mevcut modeller hakkında daha fazla bilgi edinmek için Vertex AI LLM ürün belgelerine göz atın.