היכרות עם Cloud Run באמצעות Python ‏ (Gradio)

1. מבוא

96d07289bb51daa7.png

Cloud Run היא פלטפורמת מחשוב מנוהלת שמאפשרת להריץ קונטיינרים ללא שמירת מצב שאפשר להפעיל באמצעות בקשות HTTP. הוא מבוסס על פרויקט הקוד הפתוח Knative, שמאפשר ניידות של עומסי העבודה בין פלטפורמות. ‫Cloud Run הוא שירות ללא שרת: הוא מסתיר את כל ניהול התשתית, כך שאתם יכולים להתמקד במה שהכי חשוב – בניית אפליקציות מעולות.

במדריך הזה נסביר איך ליצור אפליקציית אינטרנט פשוטה של Gradio ולפרוס אותה ב-Cloud Run.

מה תלמדו

  • איך יוצרים אפליקציית Gradio 'Hello World'.
  • בדיקת האפליקציה על ידי הפעלת אפליקציית Gradio לפני הפריסה.
  • חבילות Cloud Buildpack ואיך הנוכחות של gradio ב-requirements.txt מאפשרת שלא יהיה צורך ב-Dockerfile.
  • איך פורסים אפליקציית Gradio ב-Cloud Run.

2. הגדרה ודרישות

הגדרת סביבה בקצב אישי

  1. נכנסים ל-Google Cloud Console ויוצרים פרויקט חדש או משתמשים בפרויקט קיים. אם עדיין אין לכם חשבון Gmail או חשבון Google Workspace, אתם צריכים ליצור חשבון.

fbef9caa1602edd0.png

a99b7ace416376c4.png

5e3ff691252acf41.png

  • שם הפרויקט הוא השם המוצג למשתתפים בפרויקט. זו מחרוזת תווים שלא נמצאת בשימוש ב-Google APIs. תמיד אפשר לעדכן את המיקום.
  • מזהה הפרויקט הוא ייחודי לכל הפרויקטים ב-Google Cloud, והוא קבוע (אי אפשר לשנות אותו אחרי שהוא מוגדר). מסוף Cloud יוצר באופן אוטומטי מחרוזת ייחודית. בדרך כלל לא צריך לדעת מה היא. ברוב ה-Codelabs, תצטרכו להפנות למזהה הפרויקט (בדרך כלל מסומן כ-PROJECT_ID). אם אתם לא אוהבים את המזהה שנוצר, אתם יכולים ליצור מזהה אקראי אחר. אפשר גם לנסות שם משתמש משלכם ולבדוק אם הוא זמין. אי אפשר לשנות את ההגדרה הזו אחרי השלב הזה, והיא נשארת לאורך הפרויקט.
  • לידיעתכם, יש ערך שלישי, מספר פרויקט, שחלק מממשקי ה-API משתמשים בו. במאמרי העזרה מפורט מידע נוסף על שלושת הערכים האלה.
  1. בשלב הבא, תצטרכו להפעיל את החיוב במסוף Cloud כדי להשתמש במשאבי Cloud או בממשקי API. השלמת ה-codelab הזה לא תעלה לכם הרבה, אם בכלל. כדי להשבית את המשאבים ולמנוע חיובים נוספים אחרי שתסיימו את המדריך הזה, תוכלו למחוק את המשאבים שיצרתם או למחוק את הפרויקט. משתמשים חדשים ב-Google Cloud זכאים לתוכנית תקופת ניסיון בחינם בשווי 300$.

הפעלת Cloud Shell

אפשר להפעיל את Google Cloud מרחוק מהמחשב הנייד, אבל במדריך הזה נשתמש ב-Cloud Shell, סביבת שורת פקודה שפועלת בענן.

הפעלת Cloud Shell

  1. ב-Cloud Console, לוחצים על Activate Cloud Shell (הפעלת Cloud Shell).

3c1dabeca90e44e5.png

אם זו הפעם הראשונה שאתם מפעילים את Cloud Shell, יוצג לכם מסך ביניים עם תיאור של השירות. אם הוצג לכם מסך ביניים, לחצו על המשך.

9c92662c6a846a5c.png

הקצאת המשאבים וחיבור ל-Cloud Shell נמשכים רק כמה רגעים.

9f0e51b578fecce5.png

במכונה הווירטואלית הזו טעונים כל הכלים הדרושים למפתחים. יש בה ספריית בית בנפח מתמיד של 5GB והיא פועלת ב-Google Cloud, מה שמשפר מאוד את הביצועים והאימות של הרשת. אפשר לבצע את רוב העבודה ב-codelab הזה, אם לא את כולה, באמצעות דפדפן.

אחרי שמתחברים ל-Cloud Shell, אמור להופיע אימות והפרויקט אמור להיות מוגדר לפי מזהה הפרויקט.

  1. מריצים את הפקודה הבאה ב-Cloud Shell כדי לוודא שאתם מאומתים:
gcloud auth list

פלט הפקודה

 Credentialed Accounts
ACTIVE  ACCOUNT
*       <my_account>@<my_domain.com>

To set the active account, run:
    $ gcloud config set account `ACCOUNT`
  1. מריצים את הפקודה הבאה ב-Cloud Shell כדי לוודא שפקודת gcloud מכירה את הפרויקט:
gcloud config list project

פלט הפקודה

[core]
project = <PROJECT_ID>

אם הוא לא מוגדר, אפשר להגדיר אותו באמצעות הפקודה הבאה:

gcloud config set project <PROJECT_ID>

פלט הפקודה

Updated property [core/project].

3. הפעלת ממשקי ה-API

מ-Cloud Shell, מפעילים את ממשקי ה-API של Artifact Registry,‏ Cloud Build ו-Cloud Run:

gcloud services enable \
  artifactregistry.googleapis.com \
  cloudbuild.googleapis.com \
  run.googleapis.com

יוצג פלט של הודעת הצלחה שדומה להודעה הזו:

Operation "operations/..." finished successfully.

עכשיו אפשר להתחיל לעבוד ולכתוב את הבקשה...

4. כתיבת הבקשה

בשלב הזה, תיצרו אפליקציית Python פשוטה של Gradio שמגיבה לבקשות HTTP.

ספריית עבודה

משתמשים ב-Cloud Shell כדי ליצור ספריית עבודה בשם helloworld-gradio ועוברים אליה:

mkdir ~/helloworld-gradio && cd ~/helloworld-gradio

app.py

יוצרים קובץ בשם app.py:

touch app.py

עורכים את הקובץ באמצעות עורך שורת הפקודה המועדף (nano,‏ vim או emacs) או באמצעות לחיצה על הלחצן Cloud Shell Editor:

10af7b1a6240e9f4.gif

כדי לערוך את הקובץ ישירות באמצעות Cloud Shell Editor, משתמשים בפקודה הזו:

cloudshell edit app.py

app.py

import gradio as gr

def hello(name, intensity):
    """Return a friendly greeting."""
    return "Hello " + name + "!" * int(intensity)

demo = gr.Interface(
    fn=hello,
    inputs=["text", "slider"],
    outputs=["text"],
    title="Hello World 👋🌎",
    description=("Type your name below and hit 'Submit', and try the slider to "
                 "make the greeting louder!"),
    theme="soft",
    flagging_mode="never",
)

demo.launch(server_port=8080)

הקוד הזה יוצר שירות אינטרנט בסיסי שמגיב לבקשות HTTP GET עם הודעה ידידותית.

requirements.txt

מוסיפים קובץ בשם requirements.txt כדי להגדיר את יחסי התלות:

touch requirements.txt

כדי לערוך את הקובץ ישירות באמצעות Cloud Shell Editor, משתמשים בפקודה הזו:

cloudshell edit requirements.txt

requirements.txt

# https://pypi.org/project/gradio
gradio==5.39.0

אפשר לפרוס את אפליקציית Gradio, אבל כדאי לבדוק אותה קודם…

5. בדיקת האפליקציה

כדי לבדוק את האפליקציה, משתמשים ב-uv (מנהל הפרויקטים והחבילות המהיר במיוחד של Python), שמותקן מראש ב-Cloud Shell.

כדי לבדוק את האפליקציה, יוצרים סביבה וירטואלית:

uv venv

מתקינים את יחסי התלות:

uv pip install -r requirements.txt

מפעילים את האפליקציה במצב פיתוח באמצעות Gradio CLI עם uv run gradio app.py:

uv run gradio app.py

כברירת מחדל, התכונה הזו מפעילה את הטעינה מחדש של הקוד כדי לרענן אוטומטית את הממשק בדפדפן בכל פעם ששומרים שינויים בקוד.

ביומנים יופיע שהאפליקציה Gradio פועלת:

Watching: '/home/user/helloworld-gradio'

* Running on local URL:  http://127.0.0.1:8080
* To create a public link, set `share=True` in `launch()`.

בחלון Cloud Shell, לוחצים על הסמל Web Preview ובוחרים באפשרות Preview on port 8080:

6c9ff9e5c692c58e.gif

ייפתח חלון בדפדפן שבו מוצגת הכותרת Hello World 👋🌎.

helloworld-gradio-app.png

מנסים להזין את השם שלכם באזור הטקסט הימני ולוחצים על הלחצן 'שליחה'.

כדאי לשחק עם פס ההזזה וללחוץ על הלחצן 'שליחה' כדי לשמוע את הפתיח בעוצמה גבוהה יותר.

כשמסיימים, חוזרים ל сеанс הראשי של Cloud Shell ומפסיקים את אפליקציית Gradio באמצעות CTRL+C.

האפליקציה פועלת כמצופה: הגיע הזמן לפרוס אותה…

6. פריסה ב-Cloud Run

‫Cloud Run הוא שירות אזורי, כלומר התשתית שמריצה את שירותי Cloud Run ממוקמת באזור ספציפי ומנוהלת על ידי Google כך שתהיה זמינה באופן יתירתי בכל האזורים בתוך אותו אזור. מגדירים את האזור שבו ישמש הפריסה, למשל:

REGION=europe-west1

מוודאים שאתם עדיין בספריית העבודה:

ls

צריכים להופיע הקבצים הבאים:

app.py  requirements.txt

לפני הפריסה, יוצרים קובץ .gcloudignore עם .venv/ בתוכו. הפעולה הזו תגרום לכך שהפריסה של Cloud Run לא תכלול את הסביבה הווירטואלית שנוצרה מ-uv במהלך הבדיקה המקומית.

יוצרים את .gcloudignore באמצעות הפקודה הבאה:

echo ".venv/" > .gcloudignore

פורסים את האפליקציה ב-Cloud Run:

gcloud run deploy helloworld-gradio \
  --source . \
  --region $REGION \
  --allow-unauthenticated
  • האפשרות --allow-unauthenticated הופכת את השירות לזמין לכולם. כדי למנוע בקשות לא מאומתות, צריך להשתמש במדיניות --no-allow-unauthenticated במקום זאת.

בפעם הראשונה, תופיע בקשה ליצור מאגר ב-Artifact Registry. מקישים על Enter כדי לאמת:

Deploying from source requires an Artifact Registry Docker repository to store
built containers. A repository named [cloud-run-source-deploy] in region [REGION]
will be created.

Do you want to continue (Y/n)?

הפעולה הזו תתחיל את ההעלאה של קוד המקור למאגר ב-Artifact Registry ואת יצירת קובץ האימג' בקונטיינר:

Building using Buildpacks and deploying container ...
* Building and deploying new service... Building Container.           
  OK Creating Container Repository...
  OK Uploading sources...
  * Building Container... Logs are available at ...

לאחר מכן, ממתינים כמה רגעים עד שהפריסה תושלם. אם הפעולה בוצעה ללא שגיאות, כתובת ה-URL של השירות מוצגת בשורת הפקודה:

...
OK Building and deploying new service... Done.
  OK Creating Container Repository...
  OK Uploading sources...
  OK Building Container... Logs are available at ...
  OK Creating Revision... Creating Service.
  OK Routing traffic...
  OK Setting IAM Policy...
Done.
Service [SERVICE]... has been deployed and is serving 100 percent of traffic.
Service URL: https://SERVICE-PROJECTHASH-REGIONID.a.run.app

אפשר לקבל את כתובת ה-URL של השירות באמצעות הפקודה הבאה:

SERVICE_URL=$( \
  gcloud run services describe helloworld-gradio \
  --region $REGION \
  --format "value(status.address.url)" \
)
echo $SERVICE_URL

אמור להופיע פלט שדומה לזה:

https://helloworld-gradio-PROJECTHASH-REGIONID.a.run.app

עכשיו אפשר להשתמש באפליקציה על ידי פתיחת כתובת ה-URL של השירות בדפדפן אינטרנט:

helloworld-gradio.gif

מעולה! הרגע פרסתם אפליקציה ב-Cloud Run. ‫Cloud Run מבצע התאמה אוטומטית לעומס (autoscaling) של קובץ האימג' בקונטיינר באופן אופקי כדי לטפל בבקשות שהתקבלו, ואז מצמצם את מספר הקונטיינרים כשהביקוש יורד. משלמים רק על השימוש ב-CPU, בזיכרון ובחיבור לרשת במהלך הטיפול בבקשות בשירות הזה של Cloud Run.

7. הסרת המשאבים

ב-Cloud Run לא מחויבים כשלא משתמשים בשירות, אבל יכול להיות שתחויבו על אחסון קובץ האימג' של הקונטיינר ב-Artifact Registry. כדי להימנע מחיובים, אפשר למחוק את המאגר או את פרויקט Cloud. כשמוחקים פרויקט ב-Cloud, החיוב על כל המשאבים שנעשה בהם שימוש באותו פרויקט נפסק.

כדי למחוק את מאגר התמונות של הקונטיינר:

gcloud artifacts repositories delete cloud-run-source-deploy \
  --location $REGION

כדי למחוק את שירות Cloud Run:

gcloud run services delete helloworld-gradio \
  --region $REGION

כדי למחוק את הפרויקט ב-Google Cloud,

  1. מאחזרים את מזהה הפרויקט הנוכחי:
PROJECT_ID=$(gcloud config get-value core/project)
  1. חשוב לוודא שזה הפרויקט שרוצים למחוק:
echo $PROJECT_ID
  1. מחיקת הפרויקט:
gcloud projects delete $PROJECT_ID

8. מעולה!

96d07289bb51daa7.png

יצרתם אפליקציית אינטרנט של Gradio עם הטקסט Hello World ופרסתם אותה ב-Cloud Run.

מה נכלל

  • איך יוצרים אפליקציית Gradio 'Hello World'.
  • בדיקת האפליקציה על ידי הפעלת אפליקציית Gradio לפני הפריסה.
  • חבילות Cloud Buildpack ואיך הנוכחות של gradio ב-requirements.txt מאפשרת שלא יהיה צורך ב-Dockerfile.
  • פריסת אפליקציית Gradio ב-Cloud Run.

מידע נוסף