PaLM Metin Bison Modellerini sarmalayan Cloud Functions işlevi

1. Giriş

Bu codelab'de, Vertex AI modülünü başlatan bir Cloud Function'ın nasıl çağrılacağı ve ardından PaLM Text Bison modelini çağırmak için bir uç noktanın nasıl sağlanacağı gösterilmektedir. Bu Cloud Functions işlevi Python'da yazılmıştır. Kullanılan hizmetlerin listesi aşağıda verilmiştir:

  • Cloud Functions
  • Vertex AI PaLM API

Ne oluşturacaksınız?

PaLM Text Bison modelini çağırmak için bir uç nokta sağlayan bir Cloud Functions işlevi oluşturup dağıtacaksınız.

2. Şartlar

  • Chrome veya Firefox gibi bir tarayıcı
  • Faturalandırmanın etkin olduğu bir Google Cloud projesi

3. Başlamadan önce

  1. Google Cloud Console'daki proje seçici sayfasında bir Google Cloud projesi seçin veya oluşturun.
  2. Google Cloud projeniz için faturalandırmanın etkinleştirildiğinden emin olun. Bir projede faturalandırmanın etkin olup olmadığını kontrol etmeyi öğrenin.
  3. Buradaki talimatları uygulayarak Google Cloud Console'dan Cloud Shell'i etkinleştirin.
  4. Projeniz ayarlanmamışsa ayarlamak için aşağıdaki komutu kullanın:
gcloud config set project <YOUR_PROJECT_ID>
  1. Cloud Shell'de aşağıdaki ortam değişkenlerini ayarlayın:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Cloud Shell terminalinde aşağıdaki komutları çalıştırarak gerekli Google Cloud API'lerini etkinleştirin:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Cloud Functions işlevini dağıtma

Cloud Functions işlevleri oluşturup dağıtmak için aşağıdaki adımları uygulayın:

  1. Cloud Shell terminalinizde aşağıdaki komutu çalıştırarak https://github.com/rominirani/genai-apptemplates-googlecloud deposundaki kodu klonlayın:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. Bu komut, depo içeriklerini genai-templates-googlecloud klasörüne kopyalar.
  2. Cloud Shell terminalinden aşağıdaki komutu çalıştırarak ilgilendiğimiz projenin klasörüne gidin:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. text-predict-cloudfunction klasöründe, dir komutunu çalıştırarak veya Cloud Shell Düzenleyici'ye giderek main.py ve requirements.txt dosyalarını görmeniz gerekir.
  2. Cloud Functions işlevini dağıtmak için gcloud functions deploy komutunu çalıştırın:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

Cloud Functions işlevini dağıttıktan sonra, dağıtılan Cloud Functions işlevinin URL'si Cloud Shell Terminal'de gösterilir. URL şu biçimde olmalıdır:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. Cloud Functions işlevini çağırma

Bu Cloud Functions işlevi bir HTTP tetikleyicisiyle dağıtıldığından doğrudan başlatabilirsiniz. Aşağıda örnek bir görüşme verilmiştir:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

Çıkış şu şekilde görünür:

3470e0a6d0a30b37.png

6. Temizleme

Bu yayında kullanılan kaynaklar için Google Cloud hesabınızın ücretlendirilmesini istemiyorsanız şu adımları uygulayın:

  1. Google Cloud Console'da Kaynakları yönetin sayfasına gidin.
  2. Proje listesinde silmek istediğiniz projeyi seçin ve Sil'i tıklayın.
  3. İletişim kutusunda proje kimliğini yazın ve projeyi silmek için Kapat'ı tıklayın.
  4. Projenizi tutmak istiyorsanız yukarıdaki adımları atlayın ve Cloud Functions'a giderek Cloud Functions işlevini silin. İşlevler listesinden silmek istediğiniz işlevi işaretleyin ve SİL'i tıklayın.

7. Tebrikler

Tebrikler! PaLM Text Bison modelini kapsayan bir Cloud Functions işlevini başarıyla kullandınız. Mevcut modeller hakkında daha fazla bilgi edinmek için Vertex AI LLM ürün dokümanlarına göz atın.