Men-deploy Aplikasi Web Go AI Generatif secara Otomatis dari Kontrol Versi ke Cloud Run

1. Ringkasan

Men-deploy aplikasi web untuk pertama kalinya bisa menjadi pengalaman yang menegangkan. Bahkan setelah deployment pertama, jika prosesnya terlalu rumit, Anda mungkin menghindari men-deploy versi baru aplikasi. Dengan deployment berkelanjutan, Anda dapat men-deploy perubahan aplikasi secara otomatis dengan mudah.

Dalam lab ini, Anda akan menulis aplikasi web dan mengonfigurasi Cloud Run untuk otomatis men-deploy aplikasi Anda saat perubahan dilakukan pada kode sumber aplikasi Anda. Kemudian, Anda memodifikasi aplikasi dan men-deploy-nya lagi.

Yang akan Anda pelajari

  • Menulis aplikasi web dengan Cloud Shell Editor
  • Menyimpan kode aplikasi Anda di GitHub
  • Men-deploy aplikasi Anda secara otomatis ke Cloud Run
  • Menambahkan AI generatif ke aplikasi Anda menggunakan Vertex AI

2. Prasyarat

  1. Jika Anda belum memiliki Akun Google, Anda harus membuat Akun Google.
    • Gunakan akun pribadi, bukan akun kantor atau sekolah. Akun kantor dan sekolah mungkin memiliki batasan yang mencegah Anda mengaktifkan API yang diperlukan untuk lab ini.
  2. Jika belum memiliki akun GitHub, Anda harus membuat akun GitHub

3. Penyiapan project

  1. Login ke Konsol Google Cloud.
  2. Aktifkan penagihan di Konsol Cloud.
    • Menyelesaikan lab ini akan dikenai biaya kurang dari $1 USD untuk resource Cloud.
    • Anda dapat mengikuti langkah-langkah di akhir lab ini untuk menghapus resource agar tidak dikenai biaya lebih lanjut.
    • Pengguna baru memenuhi syarat untuk mengikuti Uji Coba Gratis senilai$300 USD.
    • Menghadiri acara Gen AI for Devs? Kredit senilai$1 USD mungkin tersedia.
  3. Buat project baru atau pilih untuk menggunakan kembali project yang ada.
  4. Konfirmasi bahwa penagihan diaktifkan di Project saya di Penagihan Cloud
    • Jika project baru Anda bertuliskan Billing is disabled di kolom Billing account:
      1. Klik tiga titik di kolom Actions
      2. Klik Ubah penagihan
      3. Pilih akun penagihan yang ingin Anda gunakan
    • Jika Anda menghadiri acara Gen AI for Devs, akun tersebut kemungkinan akan diberi nama Google Cloud Platform Trial Billing Account

4. Buka Cloud Shell Editor

  1. Buka Cloud Shell Editor
  2. Jika terminal tidak muncul di bagian bawah layar, buka terminal:
    • Klik menu tiga garis Ikon menu tiga garis
    • Klik Terminal
    • Klik New TerminalMembuka terminal baru di Cloud Shell Editor
  3. Di terminal, tetapkan project Anda dengan perintah ini:
    • Format:
      gcloud config set project [PROJECT_ID]
    • Contoh:
      gcloud config set project lab-project-id-example
    • Jika Anda tidak ingat project ID Anda:
      • Anda dapat mencantumkan semua project ID Anda dengan:
        gcloud projects list | awk '/PROJECT_ID/{print $2}'
      Menetapkan project ID di terminal Cloud Shell Editor
  4. Jika diminta untuk memberikan otorisasi, klik Authorize untuk melanjutkan. Klik untuk memberikan otorisasi pada Cloud Shell
  5. Anda akan melihat pesan ini:
    Updated property [core/project].
    Jika Anda melihat WARNING dan diminta Do you want to continue (Y/N)?, berarti Anda kemungkinan telah memasukkan ID project dengan salah. Tekan N, tekan Enter, lalu coba jalankan perintah gcloud config set project lagi.

5. Mengaktifkan API

Di terminal, aktifkan API:

gcloud services enable \
  run.googleapis.com \
  cloudbuild.googleapis.com \
  aiplatform.googleapis.com

Pemrosesan perintah ini mungkin membutuhkan waktu beberapa menit, tetapi pada akhirnya akan menghasilkan pesan keberhasilan yang mirip dengan yang berikut:

Operation "operations/acf.p2-73d90d00-47ee-447a-b600" finished successfully.

6. Mengonfigurasi Git

  1. Tetapkan email pengguna git global Anda:
    git config --global user.email "you@example.com"
  2. Tetapkan nama pengguna git global Anda:
    git config --global user.name "Your Name"
  3. Tetapkan cabang default git global Anda ke main:
    git config --global init.defaultBranch main

7. Tuliskan kode Anda

Untuk menulis aplikasi di Go:

  1. Buka direktori utama:
    cd ~
  2. Buat direktori codelab-genai:
    mkdir codelab-genai
  3. Buka direktori codelab-genai:
    cd codelab-genai
  4. Lakukan inisialisasi file go.mod untuk mendeklarasikan modul kita:
    go mod init codelab-genai
  5. Buat file main.go:
    touch main.go
  6. Buka file main.go di Cloud Shell Editor:
    cloudshell edit main.go
    File kosong akan muncul di bagian atas layar. Di sinilah Anda dapat mengedit file main.go ini. Tunjukkan bahwa kode masuk di bagian atas layar
  7. Edit main.go dan tempelkan kode berikut ke dalamnya:
    package main

import (
    "fmt"
    "log"
    "net/http"
    "os"
)

func main() {
    http.HandleFunc("/", func(w http.ResponseWriter, r *http.Request) {
        fmt.Fprintln(w, "Hello, world!")
    })

    port := os.Getenv("PORT")

    if port == "" {
        port = "8080"
    }
    if err := http.ListenAndServe(":"+port, nil); err != nil {
        log.Fatal(err)
    }
}
    Setelah beberapa detik, Cloud Shell Editor akan menyimpan kode Anda secara otomatis. Kode ini merespons permintaan http dengan sapaan "Hello world!".

Kode awal untuk aplikasi Anda telah selesai dan siap disimpan dalam kontrol versi.

8. Membuat repositori

  1. Kembali ke terminal Cloud Shell di bagian bawah layar Anda.
  2. Pastikan Anda masih berada di direktori yang benar:
    cd ~/codelab-genai
  3. Lakukan inisialisasi repositori git Anda
    git init -b main
  4. Login ke GitHub CLI
    gh auth login
    Tekan Enter untuk menerima opsi default dan ikuti petunjuk di alat GitHub CLI, termasuk:
    1. Akun mana yang ingin Anda gunakan untuk login? GitHub.com
    2. Apa protokol pilihan Anda untuk operasi Git di host ini? HTTPS
    3. Mengautentikasi Git dengan kredensial GitHub Anda? Y (Lewati jika opsi ini tidak muncul.)
    4. Bagaimana Anda ingin mengautentikasi GitHub CLI? Login with a web browser
    5. Salin kode sekali pakai Anda
    6. Buka https://github.com/login/device
    7. Tempelkan kode sekali pakai Anda
    8. Klik Authorize github
    9. Menyelesaikan login Anda
  5. Pastikan Anda login:
    gh api user -q ".login"
    Jika Anda berhasil login, nama pengguna GitHub Anda akan ditampilkan.
  6. Buat variabel GITHUB_USERNAME
    GITHUB_USERNAME=$(gh api user -q ".login")
  7. Pastikan Anda telah membuat variabel lingkungan:
    echo ${GITHUB_USERNAME}
    Jika Anda berhasil membuat variabel, tindakan ini akan menampilkan nama pengguna GitHub Anda.
  8. Buat repositori GitHub kosong bernama codelab-genai:
    gh repo create codelab-genai --private
    Jika Anda menerima error:
    GraphQL: Name already exists on this account (createRepository)
    Kemudian, Anda sudah memiliki repositori bernama codelab-genai. Anda memiliki dua opsi untuk terus mengikuti tutorial ini:
  9. Tambahkan repositori codelab-genai sebagai origin jarak jauh:
    git remote add origin https://github.com/${GITHUB_USERNAME}/codelab-genai

9. Membagikan kode Anda

  1. Pastikan Anda berada di direktori yang benar:
    cd ~/codelab-genai
  2. Tambahkan semua file di direktori saat ini ke commit ini:
    git add .
  3. Buat commit pertama:
    git commit -m "add http server"
  4. Kirim commit Anda ke cabang main repositori origin:
    git push -u origin main

Anda dapat menjalankan perintah ini dan membuka URL yang dihasilkan untuk melihat kode aplikasi Anda di GitHub:

echo -e "\n\nTo see your code, visit this URL:\n \
    https://github.com/${GITHUB_USERNAME}/codelab-genai/blob/main/main.go \n\n"

10. Menyiapkan deployment otomatis

  1. Biarkan tab Cloud Shell Editor tetap terbuka. Kita akan kembali ke tab ini nanti.
  2. Di tab baru, buka halaman Cloud Run
  3. Pilih Project Google Cloud yang benar di konsol Dropdown project Google Cloud Console
  4. Klik HUBUNGKAN REPO
  5. Klik SIAPKAN DENGAN CLOUD BUILD
    1. Pilih GitHub sebagai Penyedia Repositori
      • Jika Anda belum login ke akun GitHub di browser, login dengan kredensial Anda.
    2. Klik Autentikasi, lalu klik Lanjutkan.
    3. Setelah login, Anda akan melihat pesan di halaman Cloud Run yang menyatakan The GitHub App is not installed on any of your repositories.
    4. Klik tombol INSTALL GOOGLE CLOUD BUILD.
      • Di halaman Penyiapan Penginstalan, pilih Only select repositories dan pilih repositori codelab-genai yang Anda buat melalui CLI.
      • Klik Instal
      • Catatan: Jika Anda memiliki banyak repositori GitHub, proses ini dapat memerlukan waktu beberapa menit untuk dimuat.
    5. Pilih your-user-name/codelab-genai sebagai Repositori
      • Jika repositori tidak ada, klik link Kelola Repositori yang Terhubung.
    6. Biarkan Cabang sebagai ^main$
    7. Klik Go, Node.js, Python, Java, .NET Core, Ruby, atau PHP melalui buildpack Google Cloud
      • Biarkan kolom lainnya (Build context directory, Entrypoint, dan Function target) seperti apa adanya.
    8. Klik Simpan
  6. Scroll ke bawah ke Autentikasi
  7. Klik Izinkan pemanggilan yang tidak diautentikasi
  8. Klik BUAT

Setelah build selesai (yang akan memakan waktu beberapa menit), jalankan perintah ini dan buka URL yang dihasilkan untuk melihat aplikasi yang sedang berjalan:

echo -e "\n\nOnce the build finishes, visit your live application:\n \
    "$( \
        gcloud run services list | \
        grep codelab-genai | \
        awk '/URL/{print $2}' | \
        head -1 \
    )" \n\n"

11. Mengubah kode Anda

  1. Kembali ke terminal Cloud Shell di bagian bawah layar Anda.
  2. Pastikan Anda masih berada di direktori yang benar:
    cd ~/codelab-genai
  3. Buka kembali main.go di Cloud Shell Editor
    cloudshell edit main.go
  4. Instal Vertex AI SDK untuk Go:
    go get cloud.google.com/go/vertexai/genai
  5. Instal library Metadata untuk Go guna mendapatkan project ID saat ini:
    go get cloud.google.com/go/compute/metadata
  6. Ganti kode dalam file main.go Anda dengan:
    package main

import (
    "context"
    "fmt"
    "log"
    "net/http"
    "os"

    "cloud.google.com/go/compute/metadata"
    "cloud.google.com/go/vertexai/genai"
)

func main() {
    ctx := context.Background()
    var projectId string
    var err error
    projectId = os.Getenv("GOOGLE_CLOUD_PROJECT")
    if projectId == "" {
        projectId, err = metadata.ProjectIDWithContext(ctx)
        if err != nil {
            return
        }
    }
    var client *genai.Client
    client, err = genai.NewClient(ctx, projectId, "us-central1")
    if err != nil {
        return
    }
    defer client.Close()

    model := client.GenerativeModel("gemini-1.5-flash-001")

    http.HandleFunc("/", func(w http.ResponseWriter, r *http.Request) {
        animal := r.URL.Query().Get("animal")
        if animal == "" {
            animal = "dog"
        }

        resp, err := model.GenerateContent(
            ctx,
            genai.Text(
                fmt.Sprintf("Give me 10 fun facts about %s. Return the results as HTML without markdown backticks.", animal)),
        )

        if err != nil {
            w.WriteHeader(http.StatusServiceUnavailable)
            return
        }

        if len(resp.Candidates) > 0 && len(resp.Candidates[0].Content.Parts) > 0 {
            htmlContent := resp.Candidates[0].Content.Parts[0]
            w.Header().Set("Content-Type", "text/html; charset=utf-8")
            fmt.Fprint(w, htmlContent)
        }
    })

    port := os.Getenv("PORT")

    if port == "" {
        port = "8080"
    }
    if err := http.ListenAndServe(":"+port, nil); err != nil {
        log.Fatal(err)
    }
}

12. Deploy ulang

  1. Pastikan Anda masih berada di direktori yang benar di Cloud Shell:
    cd ~/codelab-genai
  2. Jalankan perintah ini untuk melakukan commit versi baru aplikasi Anda ke repositori git lokal:
    git add .
git commit -m "add latest changes"
  3. Kirim perubahan ke GitHub:
    git push
  4. Setelah build selesai, jalankan perintah ini dan buka aplikasi yang di-deploy:
    echo -e "\n\nOnce the build finishes, visit your live application:\n \
    "$( \
        gcloud run services list | \
        grep codelab-genai | \
        awk '/URL/{print $2}' | \
        head -1 \
    )" \n\n"

Mungkin diperlukan waktu beberapa menit hingga build selesai sebelum Anda dapat melihat perubahan.

Anda dapat melihat histori semua revisi di sini: https://console.cloud.google.com/run/detail/us-central1/codelab-genai/revisions

13. (Opsional) Audit penggunaan Vertex AI Anda

Seperti layanan Google Cloud lainnya, Anda dapat mengaudit operasi Vertex AI. Log audit membantu Anda menjawab pertanyaan, "Siapa yang melakukan apa, di mana, dan kapan?". Log audit administratif untuk Vertex AI diaktifkan secara default. Untuk mengaudit permintaan guna membuat konten, Anda harus mengaktifkan log audit Akses Data:

  1. Di konsol Google Cloud, buka halaman Audit Logs:

    Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah IAM & Admin.
  2. Pastikan project Google Cloud yang ada adalah project tempat Anda membuat aplikasi Cloud Run.
  3. Di tabel Data Access audit logs configuration, temukan dan pilih Vertex AI API dari kolom Service.
  4. Di tab Log Types, pilih jenis log audit Akses Data Admin read dan Data read.
  5. Klik Simpan.

Setelah mengaktifkannya, Anda akan dapat melihat log audit untuk setiap pemanggilan aplikasi. Untuk melihat log audit dengan detail pemanggilan, lakukan hal berikut:

  1. Kembali ke aplikasi yang di-deploy dan muat ulang halaman untuk memicu log.
  2. Di Konsol Google Cloud, buka halaman Log Explorer:

  3. Di jendela kueri, ketik:
    LOG_ID("cloudaudit.googleapis.com%2Fdata_access")
protoPayload.serviceName="aiplatform.googleapis.com"
  4. Klik Run query.

Log audit mencatat penggunaan Vertex AI API, tetapi tidak memungkinkan Anda mengamati data terkait beban kerja seperti perintah atau detail respons.

14. (Opsional) Meningkatkan observabilitas workload AI Anda

Log audit tidak mencatat informasi terkait beban kerja. Untuk meningkatkan kemampuan pengamatan workload, Anda harus mencatat informasi ini secara eksplisit. Anda dapat menggunakan framework logging favorit Anda untuk melakukannya. Langkah-langkah berikut menunjukkan salah satu cara melakukannya menggunakan library logging terstruktur Go.

  1. Buka kembali main.go di Cloud Shell Editor
    cloudshell edit ~/codelab-genai/main.go
  2. Ubah blok impor Anda untuk menyertakan library JSON dan logging terstruktur Go:
    import (
    "context"
    "encoding/json"
    "fmt"
    "log"
    "log/slog"
    "net/http"
    "os"

    "cloud.google.com/go/compute/metadata"
    "cloud.google.com/go/vertexai/genai"
)
  3. Setelah menginisialisasi klien Vertex (baris 33), tambahkan baris berikut untuk menginisialisasi logger terstruktur yang menggunakan kolom yang tepat untuk Google Cloud Logging:
    opts := &slog.HandlerOptions{
	Level: slog.LevelDebug,
	ReplaceAttr: func(group []string, a slog.Attr) slog.Attr {
        if a.Key == slog.LevelKey {
            return slog.Attr{Key: "severity", Value: a.Value}
        }
        if a.Key == slog.MessageKey {
            return slog.Attr{Key: "message", Value: a.Value}
        }
        return slog.Attr{Key: a.Key, Value: a.Value}
	},
}

jsonHandler := slog.NewJSONHandler(os.Stdout, opts)
slog.SetDefault(slog.New(jsonHandler))
  4. Setelah memeriksa respons terhadap GenerateContent (baris 69), tambahkan baris berikut di dalam blok if:
    jsonBytes, err := json.Marshal(resp)
if err != nil {
    slog.Error("Failed to marshal response to JSON", "error", err)
} else {
    jsonString := string(jsonBytes)
    slog.Debug("Complete response content", "json_response", jsonString)
}
    Kode ini menulis ke informasi stdout tentang konten yang dihasilkan menggunakan format logging terstruktur. Agen logging di Cloud Run merekam output yang dicetak ke stdout dan menulis format ini ke Cloud Logging.
  5. Buka kembali Cloud Shell dan ketik perintah berikut untuk memastikan Anda berada di direktori yang benar:
    cd ~/codelab-genai
  6. Lakukan perubahan:
    git commit -am "Observe generated content"
  7. Kirim perubahan ke GitHub untuk memicu deployment ulang versi yang diubah:
    git push

Setelah versi baru di-deploy, Anda dapat mengamati informasi debug tentang panggilan ke Vertex AI.

Untuk melihat log aplikasi Anda, lakukan hal berikut:

  1. Di Konsol Google Cloud, buka halaman Log Explorer:

  2. Di jendela kueri, ketik:
    LOG_ID("run.googleapis.com%2Fstdout")
severity=DEBUG
  3. Klik Run query.

Hasil kueri menampilkan log dengan perintah dan respons Vertex AI, termasuk "peringkat keamanan" yang dapat digunakan untuk memantau praktik keamanan

15. (Opsional) Membersihkan

Meskipun Cloud Run tidak mengenakan biaya saat layanannya tidak digunakan, Anda mungkin tetap ditagih atas penyimpanan image container di Artifact Registry. Anda dapat menghapus project Cloud untuk menghindari tagihan. Menghapus project Cloud akan menghentikan penagihan untuk semua resource yang digunakan dalam project tersebut.

Jika Anda ingin, hapus project:

gcloud projects delete $GOOGLE_CLOUD_PROJECT

Anda juga dapat menghapus resource yang tidak diperlukan dari disk cloudshell. Anda dapat:

  1. Hapus direktori project codelab: 
    rm -rf ~/codelab-genai
  2. Hapus semua paket go yang mungkin tidak Anda perlukan lagi: 
    cd ~
go clean -modcache
  3. Peringatan! Tindakan ini tidak dapat diurungkan. Jika ingin menghapus semua yang ada di Cloud Shell untuk mengosongkan ruang penyimpanan, Anda dapat menghapus seluruh direktori beranda. Berhati-hatilah agar semua yang ingin Anda simpan sudah disimpan di tempat lain. 
    sudo rm -rf $HOME

16. Selamat

Dalam lab ini, Anda telah menulis aplikasi web dan mengonfigurasi Cloud Run untuk otomatis men-deploy aplikasi Anda saat perubahan dilakukan pada kode sumber aplikasi Anda. Kemudian, Anda mengubah aplikasi dan men-deploy-nya lagi.

Jika Anda menikmati lab ini, Anda dapat mencobanya lagi dalam bahasa atau framework coding lain:

Jika Anda tertarik untuk disertakan dalam studi riset pengalaman pengguna (UX) untuk meningkatkan kualitas produk yang Anda gunakan hari ini, daftar di sini.

Berikut beberapa opsi untuk melanjutkan pembelajaran Anda: