Hello Cloud Run mit Python (Gradio)

1. Einführung

Cloud Run ist eine verwaltete Computing-Plattform, mit der Sie zustandslose Container ausführen können, die über HTTP-Anfragen aufrufbar sind. Sie basiert auf dem Knative Open-Source-Projekt. Dadurch können Sie Ihre Arbeitslasten auf verschiedene Plattformen übertragen. Cloud Run arbeitet serverlos und benötigt keine Infrastrukturverwaltung. So können Sie sich ganz auf das Programmieren von Anwendungen konzentrieren.

In dieser Anleitung erstellen Sie eine einfache Gradio-Webanwendung und stellen sie in Cloud Run bereit.

Lerninhalte

• Erstellen einer „Hello World“-Anwendung in Gradio
• Testen der Anwendung durch Ausführen der Gradio-App vor der Bereitstellung
• Cloud Buildpacks und wie das Vorhandensein von gradio in einer requirements.txt-Datei die Verwendung eines Dockerfile überflüssig macht
• Bereitstellen einer Gradio-Anwendung in Cloud Run

2. Einrichtung und Anforderungen

Umgebung zum selbstbestimmten Lernen einrichten

1. Melden Sie sich in der Google Cloud Console an und erstellen Sie ein neues Projekt oder verwenden Sie ein vorhandenes. Wenn Sie noch kein Gmail- oder Google Workspace-Konto haben, müssen Sie eines erstellen.

• Der Projektname ist der Anzeigename für die Teilnehmer dieses Projekts. Er ist ein String, der nicht von Google APIs verwendet wird. Sie können ihn jederzeit aktualisieren.
• Die Projekt-ID ist für alle Google Cloud-Projekte eindeutig und unveränderlich. Sie kann nach dem Festlegen nicht mehr geändert werden. Die Cloud Console generiert automatisch einen eindeutigen String. In den meisten Fällen ist es nicht wichtig, wie dieser aussieht. In den meisten Codelabs müssen Sie auf Ihre Projekt-ID verweisen (in der Regel als PROJECT_ID angegeben). Wenn Ihnen die generierte ID nicht gefällt, können Sie eine andere zufällige ID generieren. Alternativ können Sie eine eigene ID verwenden und prüfen, ob sie verfügbar ist. Sie kann nach diesem Schritt nicht mehr geändert werden und bleibt für die Dauer des Projekts bestehen.
• Es gibt noch einen dritten Wert, die Projektnummer, die von einigen APIs verwendet wird. Weitere Informationen zu diesen drei Werten finden Sie in der Dokumentation.

Achtung:Eine Projekt-ID ist global eindeutig und kann nach der Auswahl von niemand anderem verwendet werden. Sie sind der einzige Nutzer dieser ID. Auch wenn ein Projekt gelöscht wird, kann die ID nicht wieder verwendet werden.

Hinweis:Wenn Sie ein Gmail-Konto verwenden, können Sie den Standardspeicherort auf Keine Organisation festgelegt lassen. Wenn Sie ein Google Workspace-Konto verwenden, wählen Sie einen Speicherort aus, der für Ihre Organisation sinnvoll ist.

2. Als Nächstes müssen Sie die Abrechnung in der Cloud Console aktivieren, um Cloud-Ressourcen/APIs zu verwenden. Die Durchführung dieses Codelabs kostet wenig oder gar nichts. Wenn Sie Ressourcen herunterfahren möchten, um zu vermeiden, dass Ihnen nach dieser Anleitung Kosten in Rechnung gestellt werden, können Sie die erstellten Ressourcen oder das Projekt löschen. Neue Google Cloud-Nutzer können das kostenlose Testprogramm im Wert von 300$ nutzen.

Cloud Shell starten

Sie können Google Cloud zwar von Ihrem Laptop aus per Fernzugriff nutzen, in dieser Anleitung verwenden Sie jedoch Cloud Shell, eine Befehlszeilenumgebung, die in der Cloud ausgeführt wird.

Cloud Shell aktivieren

1. Klicken Sie in der Cloud Console auf Cloud Shell aktivieren.

Wenn Sie Cloud Shell zum ersten Mal starten, wird ein Fenster mit einer Beschreibung eingeblendet. Klicken Sie in diesem Fall einfach auf Weiter.

Das Herstellen der Verbindung mit der Cloud Shell sollte nur wenige Augenblicke dauern.

Diese virtuelle Maschine enthält alle erforderlichen Entwicklungstools. Sie bietet ein Basisverzeichnis mit 5 GB nichtflüchtigem Speicher und läuft in Google Cloud, was die Netzwerkleistung und Authentifizierung erheblich verbessert. Die meisten, wenn nicht sogar alle Aufgaben in diesem Codelab können mit einem Browser erledigt werden.

Sobald die Verbindung mit der Cloud Shell hergestellt ist, sehen Sie, dass Sie authentifiziert sind und für das Projekt schon Ihre Projekt-ID eingestellt ist.

2. Führen Sie in der Cloud Shell den folgenden Befehl aus, um zu prüfen, ob Sie authentifiziert sind:

gcloud auth list

Befehlsausgabe

 Credentialed Accounts
ACTIVE  ACCOUNT
*       <my_account>@<my_domain.com>

To set the active account, run:
    $ gcloud config set account `ACCOUNT`

Hinweis:Das gcloud-Befehlszeilentool ist das leistungsstarke und einheitliche Befehlszeilentool in Google Cloud. Das Tool ist in der Cloud Shell vorinstalliert. Es unterstützt die Tab-Vervollständigung. Möglicherweise werden Sie bei der ersten Ausführung eines Befehls aufgefordert, sich zu authentifizieren. Weitere Informationen finden Sie in der Übersicht über das gcloud-Befehlszeilentool.

3. Führen Sie in der Cloud Shell den folgenden Befehl aus, um zu prüfen, ob der gcloud-Befehl Ihr Projekt kennt:

gcloud config list project

Befehlsausgabe

[core]
project = <PROJECT_ID>

Ist dies nicht der Fall, können Sie die Einstellung mit diesem Befehl vornehmen:

gcloud config set project <PROJECT_ID>

Befehlsausgabe

Updated property [core/project].

Hinweis: Wenn Sie diese Anleitung außerhalb der Cloud Shell ausführen, folgen Sie der Anleitung unter Standardanmeldedaten für Anwendungen einrichten.

3. APIs aktivieren

Aktivieren Sie in der Cloud Shell die Artifact Registry API, die Cloud Build API und die Cloud Run API:

gcloud services enable \
  artifactregistry.googleapis.com \
  cloudbuild.googleapis.com \
  run.googleapis.com

Sie erhalten eine Erfolgsmeldung, die ungefähr so aussieht:

Operation "operations/..." finished successfully.

Im Hintergrund arbeitet Cloud Run mit dem Container-Ökosystem zusammen, um Ihre Anwendung bereitzustellen:

• Cloud Build erstellt automatisch ein Container-Image aus Ihrem Quellcode und überträgt es per Push an Artifact Registry.
• Artifact Registry verwaltet Ihr Container-Image.

Jetzt können Sie mit der Arbeit beginnen und Ihre Anwendung schreiben.

4. Anwendung schreiben

In diesem Schritt erstellen Sie eine einfache Gradio-Python-Anwendung, die auf HTTP-Anfragen reagiert.

Arbeitsverzeichnis

Erstellen Sie mit der Cloud Shell ein Arbeitsverzeichnis mit dem Namen helloworld-gradio und wechseln Sie zu diesem Verzeichnis:

mkdir ~/helloworld-gradio && cd ~/helloworld-gradio

app.py

Erstellen Sie eine Datei mit dem Namen app.py:

touch app.py

Bearbeiten Sie die Datei mit Ihrem bevorzugten Befehlszeileneditor (z. B. nano, vim oder emacs) oder klicken Sie auf die Schaltfläche „Cloud Shell-Editor“:

Verwenden Sie diesen Befehl, um die Datei direkt mit dem Cloud Shell-Editor zu bearbeiten:

cloudshell edit app.py

app.py

import gradio as gr

def hello(name, intensity):
    """Return a friendly greeting."""
    return "Hello " + name + "!" * int(intensity)

demo = gr.Interface(
    fn=hello,
    inputs=["text", "slider"],
    outputs=["text"],
    title="Hello World 👋🌎",
    description=("Type your name below and hit 'Submit', and try the slider to "
                 "make the greeting louder!"),
    theme="soft",
    flagging_mode="never",
)

demo.launch(server_port=8080)

Dieser Code erstellt einen einfachen Webdienst, der mit einer freundlichen Nachricht auf HTTP-GET-Anfragen antwortet.

requirements.txt

Fügen Sie eine Datei mit dem Namen requirements.txt hinzu, um die Abhängigkeiten zu definieren:

touch requirements.txt

Verwenden Sie diesen Befehl, um die Datei direkt mit dem Cloud Shell-Editor zu bearbeiten:

cloudshell edit requirements.txt

requirements.txt

# https://pypi.org/project/gradio
gradio==5.39.0

Die ersten Schritte mit Cloud Run sind für viele andere Programmiersprachen dokumentiert. Eine Anleitung für Go, Node.js, Java, C#, C++, PHP, Ruby, Shell-Skripts und andere Sprachen finden Sie unter https://cloud.google.com/run/docs/quickstarts/build-and-deploy.

Die Gradio-Anwendung kann jetzt bereitgestellt werden. Wir testen sie aber zuerst.

5. Anwendung testen

Verwenden Sie zum Testen der Anwendung uv (den extrem schnellen Paket- und Projektmanager von Python), der in der Cloud Shell vorinstalliert ist.

Erstellen Sie zum Testen der Anwendung eine virtuelle Umgebung:

uv venv

Installieren Sie die Abhängigkeiten:

uv pip install -r requirements.txt

Starten Sie die Anwendung im Entwicklungsmodus mit der Gradio-Befehlszeile und uv run gradio app.py:

uv run gradio app.py

Standardmäßig wird dadurch die Funktion für das Hot-Reloading aktiviert, mit der die Benutzeroberfläche in Ihrem Browser automatisch aktualisiert wird, wenn Sie Änderungen an Ihrem Code speichern.

In den Logs wird angezeigt, dass die Gradio-App ausgeführt wird:

Watching: '/home/user/helloworld-gradio'

* Running on local URL:  http://127.0.0.1:8080
* To create a public link, set `share=True` in `launch()`.

Klicken Sie im Cloud Shell-Fenster auf das Symbol Web Preview und wählen Sie Preview on port 8080 aus:

Es sollte sich jetzt ein Browserfenster öffnen, in dem der Titel Hello World 👋🌎 angezeigt wird.

Geben Sie Ihren Namen in das Textfeld auf der linken Seite ein und klicken Sie auf die Schaltfläche „Senden“.

Sie können auch den Schieberegler anpassen und auf die Schaltfläche „Senden“ klicken, um eine noch lautere Begrüßung zu erhalten.

Wenn Sie fertig sind, kehren Sie zur Hauptsitzung der Cloud Shell zurück und beenden Sie die Gradio-App mit CTRL+C.

Die Anwendung funktioniert wie erwartet. Jetzt können Sie sie bereitstellen.

6. In Cloud Run bereitstellen

Cloud Run ist regional. Die Infrastruktur, in der die Cloud Run-Dienste ausgeführt werden, befindet sich demnach in einer bestimmten Region. Aufgrund der Verwaltung durch Google sind die Anwendungen in allen Zonen innerhalb dieser Region redundant verfügbar. Definieren Sie die Region, die Sie für die Bereitstellung verwenden möchten, z. B.:

REGION=europe-west4

Eine vollständige Liste der unterstützten Regionen finden Sie unter Cloud Run (vollständig verwaltet) – Standorte.

Achten Sie darauf, dass Sie sich noch im Arbeitsverzeichnis befinden:

ls

Folgende Dateien sollten aufgeführt sein:

app.py  requirements.txt

Erstellen Sie vor der Bereitstellung eine .gcloudignore-Datei mit .venv/. Dadurch wird verhindert, dass die virtuelle Umgebung, die während der lokalen Tests mit uv erstellt wurde, in die Cloud Run-Bereitstellung aufgenommen wird.

Erstellen Sie die .gcloudignore-Datei mit dem folgenden Befehl:

echo ".venv/" > .gcloudignore

Stellen Sie die Anwendung für Cloud Run bereit:

gcloud run deploy helloworld-gradio \
  --source . \
  --region $REGION \
  --allow-unauthenticated

• Mit der Option --allow-unauthenticated wird der Dienst öffentlich verfügbar gemacht. Wenn Sie nicht authentifizierte Anfragen vermeiden möchten, verwenden Sie stattdessen --no-allow-unauthenticated.

Alle Optionen finden Sie unter gcloud run deploy --help.

Beim ersten Mal werden Sie aufgefordert, ein Artifact Registry-Repository zu erstellen. Drücken Sie Enter, um die Erstellung zu bestätigen:

Deploying from source requires an Artifact Registry Docker repository to store
built containers. A repository named [cloud-run-source-deploy] in region [REGION]
will be created.

Do you want to continue (Y/n)?

Dadurch wird der Upload Ihres Quellcodes in das Artifact Registry-Repository und die Erstellung Ihres Container-Images gestartet:

Building using Buildpacks and deploying container ...
* Building and deploying new service... Building Container.           
  OK Creating Container Repository...
  OK Uploading sources...
  * Building Container... Logs are available at ...

Cloud Build verwendet Buildpacks, die die Sprache Ihres Quellcodes automatisch erkennen und ein Container-Image basierend auf der neuesten stabilen Version des Python-Interpreters erstellen (Python 3.13 zum Zeitpunkt der Erstellung dieser Anleitung).

Wenn Sie Buildpacks mit Gradio verwenden möchten, muss gradio in der Datei requirements.txt vorhanden sein. Andernfalls verwendet Buildpacks standardmäßig gunicorn für die Bereitstellung der App, was zu Fehlern mit Gradio führt.

Weitere Informationen finden Sie unter Python-Anwendung erstellen.

Warten Sie dann einen Moment, bis die Bereitstellung abgeschlossen ist. Wenn die Bereitstellung erfolgreich war, wird in der Befehlszeile die Dienst-URL angezeigt:

...
OK Building and deploying new service... Done.
  OK Creating Container Repository...
  OK Uploading sources...
  OK Building Container... Logs are available at ...
  OK Creating Revision... Creating Service.
  OK Routing traffic...
  OK Setting IAM Policy...
Done.
Service [SERVICE]... has been deployed and is serving 100 percent of traffic.
Service URL: https://SERVICE-PROJECTHASH-REGIONID.a.run.app

Sie können die Dienst-URL mit diesem Befehl abrufen:

SERVICE_URL=$( \
  gcloud run services describe helloworld-gradio \
  --region $REGION \
  --format "value(status.address.url)" \
)
echo $SERVICE_URL

Die Ausgabe sollte ungefähr so aussehen:

https://helloworld-gradio-PROJECTHASH-REGIONID.a.run.app

Sie können Ihre Anwendung jetzt verwenden, indem Sie die Dienst-URL in einem Webbrowser öffnen:

Dieses kurze Lab wurde mit der gcloud-Befehlszeile durchgeführt. Cloud Run ist aber auch über die Cloud Console verfügbar ( console.cloud.google.com/run). Ihr Dienst helloworld-gradio sollte aufgeführt sein:

Sie können die Console auch verwenden, um Cloud Run-Dienste bereitzustellen.

Glückwunsch! Sie haben gerade eine Anwendung in Cloud Run bereitgestellt. Cloud Run skaliert das Container-Image automatisch horizontal, damit die empfangenen Anfragen bearbeitet werden können, und skaliert es wieder herunter, wenn der Bedarf sinkt. Für diesen Cloud Run-Dienst fallen nur Kosten für die CPU-, Arbeitsspeicher- und Netzwerkressourcen an, die während der Anfrageverarbeitung verbraucht werden.

7. Bereinigen

Während für Cloud Run keine Kosten anfallen, wenn der Dienst nicht verwendet wird, wird Ihnen dennoch das Speichern des Container-Images in Artifact Registry möglicherweise in Rechnung gestellt. Sie können Ihr Repository oder Ihr Cloud-Projekt löschen, um Kosten zu vermeiden. Durch das Löschen des Cloud-Projekts wird die Abrechnung für alle in diesem Projekt verwendeten Ressourcen beendet.

So löschen Sie Ihr Container-Image-Repository:

gcloud artifacts repositories delete cloud-run-source-deploy \
  --location $REGION

So löschen Sie Ihren Cloud Run-Dienst:

gcloud run services delete helloworld-gradio \
  --region $REGION

So löschen Sie Ihr Google Cloud-Projekt:

1. Rufen Sie Ihre aktuelle Projekt-ID ab:

PROJECT_ID=$(gcloud config get-value core/project)

2. Prüfen Sie, ob dies das Projekt ist, das Sie löschen möchten:

echo $PROJECT_ID

3. Löschen Sie das Projekt:

gcloud projects delete $PROJECT_ID

8. Glückwunsch!

Sie haben eine „Hello World“-Gradio-Webanwendung erstellt und in Cloud Run bereitgestellt.

Behandelte Themen

• Erstellen einer „Hello World“-Anwendung in Gradio
• Testen der Anwendung durch Ausführen der Gradio-App vor der Bereitstellung
• Cloud Buildpacks und wie das Vorhandensein von gradio in einer requirements.txt-Datei die Verwendung eines Dockerfile überflüssig macht
• Bereitstellen der Gradio-Anwendung in Cloud Run

Weitere Informationen

• Sieh dir die Cloud Run-Dokumentation an
• Dev to Prod in Three Easy Steps with Cloud Run (Entwicklung bis Produktion in drei einfachen Schritten mit Cloud Run) für weitere Optionen
• Django on Cloud Run (Django in Cloud Run) zum Erstellen einer Cloud SQL-Datenbank, Verwalten von Anmeldedaten mit Secret Manager und Bereitstellen von Django
• Weitere Cloud Run-Codelabs