1. Pengantar
Codelab ini menunjukkan cara membangun dan men-deploy aplikasi chat berbasis AI di aplikasi web sebagai layanan Cloud Run di Google Cloud. Aplikasi chat ini memungkinkan pengguna membuat kueri dan mendapatkan respons menggunakan model PaLM untuk Chat Bison ( text-chat).
Yang akan Anda build
Anda akan membuat
- Lingkungan di Google Cloud untuk menjalankan aplikasi
- Gambar Docker untuk aplikasi
- Layanan Cloud Run yang menjalankan aplikasi
2. Persyaratan
3. Sebelum memulai
- Di Konsol Google Cloud, pada halaman pemilih project, pilih atau buat project Google Cloud
- Pastikan penagihan diaktifkan untuk project Google Cloud Anda. Pelajari cara memeriksa apakah penagihan diaktifkan pada sebuah project
- Aktifkan Cloud Shell dari Konsol Google Cloud dengan mengikuti petunjuk di sini
- Jika project Anda belum ditetapkan, gunakan perintah berikut untuk menetapkannya:
gcloud config set project <YOUR_PROJECT_ID>
- Di Cloud Shell, tetapkan variabel lingkungan berikut:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- Aktifkan Google Cloud API yang diperlukan dengan menjalankan perintah berikut di Terminal Cloud Shell:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
4. Menyiapkan lingkungan Anda
- Untuk menyalin kode contoh ke project Anda, clone repositori di Cloud Shell:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- Perintah ini akan meng-clone konten repo ke dalam folder genai-templates-googlecloud.
- Buka folder project yang penting bagi kita dengan menjalankan perintah berikut dari Terminal Cloud Shell:
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
- Tetapkan variabel lingkungan berikut untuk inisialisasi Vertex AI:
GCP_PROJECT : ID Project Google Cloud Anda. Misalnya: my_project.
GCP_REGION : Region tempat Anda ingin men-deploy Cloud Function. Misalnya: us-central1.
export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'
5. Membangun image Docker
Untuk membangun image Docker untuk aplikasi dan mengirimkannya ke Artifact Registry, lakukan hal berikut:
- Tetapkan variabel lingkungan untuk repositori Artifact Registry. Nama hanya boleh berisi huruf kecil, angka, dan tanda hubung, serta harus diawali dengan huruf dan diakhiri dengan huruf atau angka. Misalnya: my-chat-app-repo.
export AR_REPO='my-chat-app-repo'
- Tetapkan variabel lingkungan untuk nama layanan Anda. Misalnya: chat-flask-app.
export SERVICE_NAME='chat-flask-app'
- Buat repositori Anda dalam format Docker.
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
- Mengonfigurasi autentikasi Docker.
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
- Membangun image
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
- Untuk memastikan apakah image dikirim ke Artifact Registry, buka halaman Artifact Registry. Cari repositori yang Anda buat di halaman ini.
6. Men-deploy aplikasi
- Men-deploy aplikasi sebagai layanan di Cloud Run.
gcloud run deploy "$SERVICE_NAME" \
--port=8080 \
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \
--allow-unauthenticated \
--region=$GCP_REGION \
--platform=managed \
--project=$GCP_PROJECT \
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION
Langkah ini mungkin memerlukan waktu beberapa detik untuk diselesaikan.
- Untuk meluncurkan aplikasi chat, klik URL layanan.
Aplikasi chat akan terbuka di tab baru seperti yang ditampilkan di screenshot berikut:
7. Pembersihan
Agar tidak menimbulkan biaya pada akun Google Cloud Anda untuk resource yang digunakan dalam posting ini, ikuti langkah-langkah berikut:
- Di konsol Google Cloud, buka halaman Manage resource.
- Dalam daftar project, pilih project yang ingin dihapus, lalu klik Delete.
- Pada dialog, ketik project ID, lalu klik Shut down untuk menghapus project.
- Jika Anda ingin menyimpan project, lewati langkah-langkah di atas dan hapus layanan Cloud Run dengan membuka Cloud Run. Dari daftar layanan, centang layanan yang ingin dihapus, lalu klik DELETE.
8. Selamat
Selamat! Anda telah berhasil membangun dan men-deploy aplikasi chat berbasis AI untuk aplikasi web sebagai layanan Cloud Run di Google Cloud. Anda dapat menggunakan aplikasi chat ini untuk mengizinkan pengguna memasukkan kueri dan aplikasi ini akan memanggil model chat Vertex AI serta memberikan respons.