פונקציה של Cloud Functions שעופפת את מודלי PaLM Text Bison

1. מבוא

ב-Codelab הזה נסביר איך להפעיל פונקציית Cloud Functions שמאתחלת את מודול Vertex AI ואז מספקת נקודת קצה להפעלת מודל PaLM Text Bison. הפונקציה הזו של Cloud Functions כתובה ב-Python. זו רשימת השירותים שבהם נעשה שימוש:

  • Cloud Functions
  • Vertex AI PaLM API

מה תפַתחו

תצרו ותפרסו פונקציה ב-Cloud Functions שמספקת נקודת קצה להפעלת מודל PaLM Text Bison.

2. דרישות

  • דפדפן, כמו Chrome או Firefox
  • פרויקט ב-Google Cloud שהחיוב בו מופעל

3. לפני שמתחילים

  1. ב-מסוף Google Cloud, בדף לבחירת הפרויקט, בוחרים או יוצרים פרויקט ב-Google Cloud.
  2. מוודאים שהחיוב מופעל בפרויקט בענן שלכם ב-Google Cloud. כך בודקים אם החיוב מופעל בפרויקט
  3. מפעילים את Cloud Shell מ-מסוף Google Cloud לפי ההוראות כאן.
  4. אם הפרויקט לא מוגדר, משתמשים בפקודה הבאה כדי להגדיר אותו:
gcloud config set project <YOUR_PROJECT_ID>
  1. ב-Cloud Shell, מגדירים את משתני הסביבה הבאים:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. מפעילים את ממשקי ה-API הנדרשים של Google Cloud באמצעות הפקודות הבאות בטרמינל של Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. פריסת הפונקציה ב-Cloud Functions

כדי ליצור ולפרוס פונקציות Cloud Functions:

  1. משכפלים קוד ממאגר https://github.com/rominirani/genai-apptemplates-googlecloud על ידי הרצת הפקודה הבאה בטרמינל של Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. הפקודה הזו תשכפל את תוכן המאגר לתיקייה genai-templates-googlecloud.
  2. כדי לעבור לתיקייה של הפרויקט הרלוונטי, מריצים את הפקודה הבאה בטרמינל של Cloud Shell:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. אחרי שמריצים את הפקודה dir או עוברים אל Cloud Shell Editor, אמורים לראות את שני הקבצים main.py ו-requirements.txt בתיקייה text-predict-cloudfunction.
  2. כדי לפרוס את הפונקציה של Cloud Functions, מריצים את הפקודה gcloud functions deploy:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

אחרי שפורסים את הפונקציה של Cloud Functions, כתובת ה-URL של הפונקציה שפרסתם מוצגת במסוף של Cloud Shell. כתובת ה-URL היא בפורמט הבא:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. הפעלת הפונקציה של Cloud Functions

מכיוון שפונקציה של Cloud Functions הזו נפרסת עם טריגר HTTP, אפשר להפעיל אותה ישירות. הנה דוגמה לשיחה:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

הפלט אמור להיראות כך:

3470e0a6d0a30b37.png

6. הסרת המשאבים

כדי לא לצבור חיובים לחשבון Google Cloud על המשאבים שבהם השתמשתם במאמר הזה:

  1. במסוף Google Cloud, עוברים לדף Manage resources.
  2. ברשימת הפרויקטים, בוחרים את הפרויקט שרוצים למחוק ולוחצים על Delete.
  3. כדי למחוק את הפרויקט, כותבים את מזהה הפרויקט בתיבת הדו-שיח ולוחצים על Shut down.
  4. אם רוצים לשמור את הפרויקט, מדלגים על השלבים שלמעלה ומוחקים את Cloud Function. כדי לעשות זאת, עוברים אל Cloud Functions, מסמנים את הפונקציה שרוצים למחוק מתוך רשימת הפונקציות ולוחצים על DELETE (מחיקה).

7. מזל טוב

מעולה! השתמשתם בהצלחה בפונקציית Cloud Functions שעוטפת את מודל PaLM Text Bison. מידע נוסף על המודלים הזמינים מופיע בתיעוד המוצר Vertex AI LLM.