Hello Cloud Run dengan Python (Gradio)

1. Pengantar

96d07289bb51daa7.png

Cloud Run adalah platform komputasi terkelola yang memungkinkan Anda menjalankan container stateless yang dapat dipanggil menggunakan permintaan HTTP. Layanan ini dibangun berdasarkan project open source Knative, sehingga memungkinkan portabilitas workload Anda di berbagai platform. Cloud Run bersifat serverless. Platform ini memisahkan semua pengelolaan infrastruktur di lokasi lain, sehingga Anda dapat fokus pada hal terpenting, yakni membuat aplikasi yang andal.

Tujuan tutorial ini adalah membuat aplikasi web Gradio sederhana dan men-deploy-nya ke Cloud Run.

Yang akan Anda pelajari

  • Cara membuat aplikasi "Hello World" Gradio.
  • Menguji aplikasi dengan menjalankan aplikasi Gradio sebelum men-deploy.
  • Cloud Buildpack dan cara kehadiran gradio dalam requirements.txt memungkinkan tidak diperlukannya Dockerfile.
  • Cara men-deploy aplikasi Gradio ke Cloud Run.

2. Penyiapan dan persyaratan

Penyiapan lingkungan mandiri

  1. Login ke Konsol Google Cloud dan buat project baru atau gunakan kembali project yang sudah ada. Jika belum memiliki akun Gmail atau Google Workspace, Anda harus membuatnya.

fbef9caa1602edd0.png

a99b7ace416376c4.png

5e3ff691252acf41.png

  • Project name adalah nama tampilan untuk peserta project ini. String ini adalah string karakter yang tidak digunakan oleh Google API. Anda dapat memperbaruinya kapan saja.
  • Project ID bersifat unik di semua project Google Cloud dan tidak dapat diubah (tidak dapat diubah setelah ditetapkan). Cloud Console otomatis membuat string unik; biasanya Anda tidak mementingkan kata-katanya. Di sebagian besar codelab, Anda harus merujuk Project ID-nya (umumnya diidentifikasi sebagai PROJECT_ID). Jika tidak suka dengan ID yang dibuat, Anda dapat membuat ID acak lainnya. Atau, Anda dapat mencobanya sendiri, dan lihat apakah ID tersebut tersedia. ID tidak dapat diubah setelah langkah ini dan tersedia selama durasi project.
  • Sebagai informasi, ada nilai ketiga, Project Number, yang digunakan oleh beberapa API. Pelajari lebih lanjut ketiga nilai ini di dokumentasi.
  1. Selanjutnya, Anda harus mengaktifkan penagihan di Konsol Cloud untuk menggunakan resource/API Cloud. Menjalankan operasi dalam codelab ini tidak akan memakan banyak biaya, bahkan mungkin tidak sama sekali. Guna mematikan resource agar tidak menimbulkan penagihan di luar tutorial ini, Anda dapat menghapus resource yang dibuat atau menghapus project-nya. Pengguna baru Google Cloud memenuhi syarat untuk mengikuti program Uji Coba Gratis senilai$300 USD.

Mulai Cloud Shell

Meskipun Google Cloud dapat dioperasikan dari jarak jauh menggunakan laptop Anda, dalam tutorial ini, Anda akan menggunakan Cloud Shell, lingkungan command line yang berjalan di Cloud.

Mengaktifkan Cloud Shell

  1. Dari Konsol Cloud, klik Activate Cloud Shell

3c1dabeca90e44e5.png

Jika ini adalah pertama kalinya Anda memulai Cloud Shell, Anda akan melihat layar perantara yang menjelaskan apa itu Cloud Shell. Jika Anda melihat layar perantara, klik Continue.

9c92662c6a846a5c.png

Perlu waktu beberapa saat untuk penyediaan dan terhubung ke Cloud Shell.

9f0e51b578fecce5.png

Virtual machine ini dilengkapi dengan semua alat pengembangan yang diperlukan. VM ini menawarkan direktori beranda tetap sebesar 5 GB dan beroperasi di Google Cloud, sehingga sangat meningkatkan performa dan autentikasi jaringan. Sebagian besar pekerjaan Anda dalam codelab ini dapat dilakukan dengan browser.

Setelah terhubung ke Cloud Shell, Anda akan melihat bahwa Anda telah diautentikasi dan project telah ditetapkan ke project ID Anda.

  1. Jalankan perintah berikut di Cloud Shell untuk mengonfirmasi bahwa Anda telah diautentikasi:
gcloud auth list

Output perintah

 Credentialed Accounts
ACTIVE  ACCOUNT
*       <my_account>@<my_domain.com>

To set the active account, run:
    $ gcloud config set account `ACCOUNT`
  1. Jalankan perintah berikut di Cloud Shell untuk mengonfirmasi bahwa perintah gcloud mengetahui project Anda:
gcloud config list project

Output perintah

[core]
project = <PROJECT_ID>

Jika tidak, Anda dapat menyetelnya dengan perintah ini:

gcloud config set project <PROJECT_ID>

Output perintah

Updated property [core/project].

3. Mengaktifkan API

Dari Cloud Shell, aktifkan Artifact Registry, Cloud Build, dan Cloud Run API:

gcloud services enable \
  artifactregistry.googleapis.com \
  cloudbuild.googleapis.com \
  run.googleapis.com

Perintah ini akan menampilkan pesan sukses yang mirip dengan yang berikut ini:

Operation "operations/..." finished successfully.

Sekarang, Anda siap untuk mulai bekerja dan menulis lamaran Anda...

4. Menulis aplikasi

Pada langkah ini, Anda akan membuat aplikasi Python Gradio sederhana yang merespons permintaan HTTP.

Direktori kerja

Gunakan Cloud Shell untuk membuat direktori kerja bernama helloworld-gradio dan beralih ke direktori tersebut:

mkdir ~/helloworld-gradio && cd ~/helloworld-gradio

app.py

Buat file bernama app.py:

touch app.py

Edit file dengan editor command line pilihan Anda (nano, vim, atau emacs) atau dengan mengklik tombol Cloud Shell Editor:

10af7b1a6240e9f4.gif

Untuk mengedit file secara langsung dengan Cloud Shell Editor, gunakan perintah ini:

cloudshell edit app.py

app.py

import gradio as gr

def hello(name, intensity):
    """Return a friendly greeting."""
    return "Hello " + name + "!" * int(intensity)

demo = gr.Interface(
    fn=hello,
    inputs=["text", "slider"],
    outputs=["text"],
    title="Hello World 👋🌎",
    description=("Type your name below and hit 'Submit', and try the slider to "
                 "make the greeting louder!"),
    theme="soft",
    flagging_mode="never",
)

demo.launch(server_port=8080)

Kode ini membuat layanan web dasar yang merespons permintaan HTTP GET dengan pesan yang mudah dipahami.

requirements.txt

Tambahkan file bernama requirements.txt untuk menentukan dependensi:

touch requirements.txt

Untuk mengedit file secara langsung dengan Cloud Shell Editor, gunakan perintah ini:

cloudshell edit requirements.txt

requirements.txt

# https://pypi.org/project/gradio
gradio==5.39.0

Aplikasi Gradio siap di-deploy, tetapi mari kita uji terlebih dahulu...

5. Menguji aplikasi

Untuk menguji aplikasi, gunakan uv (pengelola paket dan project Python yang sangat cepat) yang sudah diinstal sebelumnya di Cloud Shell.

Untuk menguji aplikasi, buat lingkungan virtual:

uv venv

Instal dependensinya:

uv pip install -r requirements.txt

Mulai aplikasi dalam mode pengembangan menggunakan Gradio CLI dengan uv run gradio app.py:

uv run gradio app.py

Secara default, fitur hot reloading ini diaktifkan untuk otomatis memuat ulang antarmuka di browser setiap kali Anda menyimpan perubahan pada kode.

Log akan menunjukkan bahwa aplikasi Gradio sedang berjalan:

Watching: '/home/user/helloworld-gradio'

* Running on local URL:  http://127.0.0.1:8080
* To create a public link, set `share=True` in `launch()`.

Di jendela Cloud Shell, klik ikon Web Preview, lalu pilih Preview on port 8080:

6c9ff9e5c692c58e.gif

Tindakan ini akan membuka jendela browser yang menampilkan judul Hello World 👋🌎.

helloworld-gradio-app.png

Coba isi nama Anda di area teks sisi kiri, lalu klik tombol Kirim.

Coba sesuaikan penggeser dan klik tombol Kirim untuk melihat sapaan yang lebih keras.

Setelah selesai, kembali ke sesi Cloud Shell utama dan hentikan aplikasi Gradio dengan CTRL+C.

Aplikasi berfungsi seperti yang diharapkan: saatnya men-deploy-nya...

6. Men-deploy ke Cloud Run

Cloud Run bersifat regional, berarti infrastruktur yang menjalankan layanan Cloud Run Anda terletak di region tertentu dan dikelola oleh Google agar tersedia secara redundan di semua zona dalam region tersebut. Tentukan region yang akan Anda gunakan untuk deployment, misalnya:

REGION=europe-west1

Pastikan Anda masih berada di direktori kerja:

ls

Tindakan ini akan mencantumkan file berikut:

app.py  requirements.txt

Sebelum men-deploy, buat file .gcloudignore dengan .venv/ di dalamnya. Hal ini akan menghentikan deployment Cloud Run agar tidak menyertakan lingkungan virtual yang dibuat dari uv selama pengujian lokal.

Buat .gcloudignore dengan perintah berikut:

echo ".venv/" > .gcloudignore

Men-deploy aplikasi ke Cloud Run:

gcloud run deploy helloworld-gradio \
  --source . \
  --region $REGION \
  --allow-unauthenticated
  • Opsi --allow-unauthenticated membuat layanan tersedia secara publik. Untuk menghindari permintaan yang tidak diautentikasi, gunakan --no-allow-unauthenticated sebagai gantinya.

Saat pertama kali, Anda akan mendapatkan perintah untuk membuat repositori Artifact Registry. Ketuk Enter untuk memvalidasi:

Deploying from source requires an Artifact Registry Docker repository to store
built containers. A repository named [cloud-run-source-deploy] in region [REGION]
will be created.

Do you want to continue (Y/n)?

Tindakan ini akan meluncurkan upload kode sumber Anda ke repositori Artifact Registry dan build image container Anda:

Building using Buildpacks and deploying container ...
* Building and deploying new service... Building Container.           
  OK Creating Container Repository...
  OK Uploading sources...
  * Building Container... Logs are available at ...

Kemudian, tunggu sebentar hingga deployment selesai. Jika berhasil, command line akan menampilkan URL layanan:

...
OK Building and deploying new service... Done.
  OK Creating Container Repository...
  OK Uploading sources...
  OK Building Container... Logs are available at ...
  OK Creating Revision... Creating Service.
  OK Routing traffic...
  OK Setting IAM Policy...
Done.
Service [SERVICE]... has been deployed and is serving 100 percent of traffic.
Service URL: https://SERVICE-PROJECTHASH-REGIONID.a.run.app

Anda bisa mendapatkan URL layanan dengan perintah ini:

SERVICE_URL=$( \
  gcloud run services describe helloworld-gradio \
  --region $REGION \
  --format "value(status.address.url)" \
)
echo $SERVICE_URL

Tampilan ini akan menampilkan sesuatu seperti berikut:

https://helloworld-gradio-PROJECTHASH-REGIONID.a.run.app

Sekarang Anda dapat menggunakan aplikasi dengan membuka URL layanan di browser web:

helloworld-gradio.gif

Selamat! Anda baru saja men-deploy aplikasi ke Cloud Run. Cloud Run meningkatkan skala image container secara otomatis dan horizontal untuk menangani permintaan yang diterima, lalu menurunkan skala saat permintaan berkurang. Anda hanya membayar untuk CPU, memori, dan jaringan yang terpakai selama penanganan permintaan untuk layanan Cloud Run ini.

7. Pembersihan

Meskipun Cloud Run tidak mengenakan biaya saat layanannya tidak digunakan, Anda mungkin tetap ditagih atas penyimpanan image container di Artifact Registry. Anda dapat menghapus repositori atau menghapus project Cloud untuk menghindari tagihan. Menghapus project Cloud akan menghentikan penagihan untuk semua resource yang digunakan dalam project tersebut.

Untuk menghapus repositori image container Anda:

gcloud artifacts repositories delete cloud-run-source-deploy \
  --location $REGION

Untuk menghapus layanan Cloud Run Anda:

gcloud run services delete helloworld-gradio \
  --region $REGION

Untuk menghapus project Google Cloud Anda:

  1. Ambil project ID Anda saat ini:
PROJECT_ID=$(gcloud config get-value core/project)
  1. Pastikan ini adalah project yang ingin Anda hapus:
echo $PROJECT_ID
  1. Menghapus project:
gcloud projects delete $PROJECT_ID

8. Selamat!

96d07289bb51daa7.png

Anda telah membuat aplikasi web Gradio "Hello World" dan men-deploy-nya ke Cloud Run.

Yang telah kita bahas

  • Cara membuat aplikasi "Hello World" Gradio.
  • Menguji aplikasi dengan menjalankan aplikasi Gradio sebelum men-deploy.
  • Cloud Buildpack dan cara kehadiran gradio dalam requirements.txt memungkinkan tidak diperlukannya Dockerfile.
  • Men-deploy aplikasi Gradio ke Cloud Run.

Pelajari lebih lanjut