Cloud SQL के डेटाबेस और LangChain का इस्तेमाल करके, एलएलएम और आरएजी पर आधारित चैट ऐप्लिकेशन बनाना

1. परिचय

इस कोडलैब में, आपको GenAI के डेटाबेस को वापस पाने की सेवा को डिप्लॉय करने का तरीका बताया गया है. साथ ही, डिप्लॉय किए गए एनवायरमेंट का इस्तेमाल करके, इंटरैक्टिव ऐप्लिकेशन का सैंपल बनाने का तरीका बताया गया है.

8727a44c8c402834.png

GenAI Retrieval Service और सैंपल ऐप्लिकेशन के बारे में ज़्यादा जानकारी पाने के लिए, यहां जाएं.

ज़रूरी शर्तें

  • Google Cloud Console की बुनियादी जानकारी
  • कमांड लाइन इंटरफ़ेस और Google Cloud Shell की बुनियादी जानकारी

आपको क्या सीखने को मिलेगा

  • Cloud SQL इंस्टेंस बनाने का तरीका
  • इंस्टेंस से कनेक्ट करने का तरीका
  • GenAI Databases Retrieval Service को कॉन्फ़िगर और डिप्लॉय करने का तरीका
  • डिप्लॉय की गई सेवा का इस्तेमाल करके, सैंपल ऐप्लिकेशन को डिप्लॉय करने का तरीका

आपको इन चीज़ों की ज़रूरत होगी

  • Google Cloud खाता और Google Cloud प्रोजेक्ट
  • कोई वेब ब्राउज़र, जैसे कि Chrome

2. सेटअप और ज़रूरी शर्तें

अपने हिसाब से एनवायरमेंट सेट अप करना

  1. Google Cloud Console में साइन इन करें और नया प्रोजेक्ट बनाएं या किसी मौजूदा प्रोजेक्ट का फिर से इस्तेमाल करें. अगर आपके पास पहले से कोई Gmail या Google Workspace खाता नहीं है, तो आपको एक खाता बनाना होगा.

fbef9caa1602edd0.png

a99b7ace416376c4.png

5e3ff691252acf41.png

  • प्रोजेक्ट का नाम, इस प्रोजेक्ट में हिस्सा लेने वाले लोगों के लिए डिसप्ले नेम होता है. यह एक वर्ण स्ट्रिंग है, जिसका इस्तेमाल Google API नहीं करते. इसे कभी भी अपडेट किया जा सकता है.
  • प्रोजेक्ट आईडी, सभी Google Cloud प्रोजेक्ट के लिए यूनीक होता है. साथ ही, इसे बदला नहीं जा सकता. Cloud Console, यूनीक स्ट्रिंग को अपने-आप जनरेट करता है. आम तौर पर, आपको इससे कोई फ़र्क़ नहीं पड़ता कि यह क्या है. ज़्यादातर कोडलैब में, आपको अपने प्रोजेक्ट आईडी (आम तौर पर PROJECT_ID के तौर पर पहचाना जाता है) का रेफ़रंस देना होगा. अगर आपको जनरेट किया गया आईडी पसंद नहीं है, तो कोई दूसरा रैंडम आईडी जनरेट किया जा सकता है. इसके अलावा, आपके पास अपना नाम आज़माने का विकल्प भी है. इससे आपको पता चलेगा कि वह नाम उपलब्ध है या नहीं. इस चरण के बाद, इसे बदला नहीं जा सकता. यह प्रोजेक्ट की अवधि तक बना रहता है.
  • आपकी जानकारी के लिए बता दें कि एक तीसरी वैल्यू भी होती है, जिसे प्रोजेक्ट नंबर कहते हैं. इसका इस्तेमाल कुछ एपीआई करते हैं. इन तीनों वैल्यू के बारे में ज़्यादा जानने के लिए, दस्तावेज़ देखें.
  1. इसके बाद, आपको Cloud Console में बिलिंग चालू करनी होगी, ताकि Cloud संसाधनों/एपीआई का इस्तेमाल किया जा सके. इस कोडलैब को पूरा करने में ज़्यादा समय नहीं लगेगा. इस ट्यूटोरियल के बाद बिलिंग से बचने के लिए, संसाधनों को बंद किया जा सकता है. इसके लिए, बनाए गए संसाधनों को मिटाएं या प्रोजेक्ट को मिटाएं. Google Cloud के नए उपयोगकर्ताओं को, 300 डॉलर का क्रेडिट मिलेगा. वे इसे मुफ़्त में आज़मा सकते हैं.

Cloud Shell शुरू करें

Google Cloud को अपने लैपटॉप से रिमोटली ऐक्सेस किया जा सकता है. हालांकि, इस कोडलैब में Google Cloud Shell का इस्तेमाल किया जाएगा. यह क्लाउड में चलने वाला कमांड लाइन एनवायरमेंट है.

Google Cloud Console में, सबसे ऊपर दाएं कोने में मौजूद टूलबार पर, Cloud Shell आइकॉन पर क्लिक करें:

55efc1aaa7a4d3ad.png

इसे चालू करने और एनवायरमेंट से कनेक्ट करने में सिर्फ़ कुछ सेकंड लगेंगे. यह प्रोसेस पूरी होने के बाद, आपको कुछ ऐसा दिखेगा:

7ffe5cbb04455448.png

इस वर्चुअल मशीन में, डेवलपमेंट के लिए ज़रूरी सभी टूल पहले से मौजूद हैं. यह 5 जीबी की होम डायरेक्ट्री उपलब्ध कराता है. साथ ही, यह Google Cloud पर काम करता है. इससे नेटवर्क की परफ़ॉर्मेंस और पुष्टि करने की प्रोसेस बेहतर होती है. इस कोडलैब में मौजूद सभी टास्क, ब्राउज़र में किए जा सकते हैं. आपको कुछ भी इंस्टॉल करने की ज़रूरत नहीं है.

3. शुरू करने से पहले

एपीआई चालू करना

Cloud Shell में, पक्का करें कि आपका प्रोजेक्ट आईडी सेट अप हो:

आम तौर पर, प्रोजेक्ट आईडी को क्लाउड शेल में कमांड प्रॉम्प्ट में कोष्ठक में दिखाया जाता है. जैसा कि इस इमेज में दिखाया गया है:

fa6ee779963405d5.png

gcloud config set project [YOUR-PROJECT-ID]

इसके बाद, PROJECT_ID एनवायरमेंट वैरिएबल को अपने Google Cloud प्रोजेक्ट आईडी पर सेट करें:

PROJECT_ID=$(gcloud config get-value project)

सभी ज़रूरी सेवाएं चालू करें:

gcloud services enable sqladmin.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-004)$ gcloud services enable sqladmin.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com
Operation "operations/acf.p2-404051529011-664c71ad-cb2b-4ab4-86c1-1f3157d70ba1" finished successfully.

4. Cloud SQL इंस्टेंस बनाना

वेक्टर सर्च की सुविधा के साथ Cloud SQL इंस्टेंस बनाएं.

पासवर्ड बनाना

डिफ़ॉल्ट डेटाबेस उपयोगकर्ता के लिए पासवर्ड तय करें. आपके पास अपना पासवर्ड तय करने या पासवर्ड जनरेट करने के लिए, रैंडम फ़ंक्शन का इस्तेमाल करने का विकल्प होता है

export CLOUDSQL_PASSWORD=`openssl rand -hex 12`

पासवर्ड के लिए जनरेट की गई वैल्यू नोट करें

echo $CLOUDSQL_PASSWORD

MySQL

इंस्टेंस बनाते समय, cloudsql_vector फ़्लैग चालू किया जा सकता है. फ़िलहाल, MySQL 8.0.36 और 8.0.37 में वेक्टर की सुविधा उपलब्ध है.

export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=MYSQL_8_0_36 --database-flags=cloudsql_vector=ON --root-password=$CLOUDSQL_PASSWORD

कंसोल का अनुमानित आउटपुट (आईपी पता छिपाया गया है):

student@cloudshell:~ export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=MYSQL_8_0_36 --database-flags=cloudsql_vector=ON --root-password=$CLOUDSQL_PASSWORD
Creating Cloud SQL instance for MYSQL_8_0_36...done.                                                                                                                                 
Created [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].
NAME                   DATABASE_VERSION  LOCATION       TIER             PRIMARY_ADDRESS  PRIVATE_ADDRESS  STATUS
my-cloudsql-instance  MYSQL_8_0_36      us-central1-a  db-n1-standard-1  00.000.00.00   -                RUNNABLE

PostgreSQL

pgvector एक्सटेंशन, वर्शन >= 11 में उपलब्ध है.

export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=POSTGRES_15 --tier=db-g1-small

कंसोल का अनुमानित आउटपुट (आईपी पता छिपाया गया है):

student@cloudshell:~ export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=POSTGRES_15 --tier=db-g1-small
Creating Cloud SQL instance for POSTGRES_15...done.                                                                                                                                  
Created [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].
NAME                   DATABASE_VERSION  LOCATION       TIER         PRIMARY_ADDRESS  PRIVATE_ADDRESS  STATUS
my-cloudsql-instance  POSTGRES_15       us-central1-a  db-g1-small  00.000.00.00     -                RUNNABLE

इंस्टेंस बनाने के बाद, हमें इंस्टेंस में डिफ़ॉल्ट उपयोगकर्ता के लिए पासवर्ड तय करना होगा. साथ ही, यह देखना होगा कि हम पासवर्ड से कनेक्ट कर सकते हैं या नहीं. कनेक्ट करने के लिए तैयार होने पर, प्रॉम्प्ट में अपना पासवर्ड डालें.

gcloud sql users set-password postgres \
    --instance=my-cloudsql-instance \
    --password=$CLOUDSQL_PASSWORD
gcloud sql connect my-cloudsql-instance --user=postgres

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud sql users set-password postgres \
    --instance=my-cloudsql-instance \
    --password=$CLOUDSQL_PASSWORD
gcloud sql connect my-cloudsql-instance --user=postgres
Updating Cloud SQL user...done.                                                                                                                                                                                                                                            
Allowlisting your IP for incoming connection for 5 minutes...done.                                                                                                                                                                                                         
Connecting to database with SQL user [postgres].Password: 
psql (16.3 (Ubuntu 16.3-1.pgdg22.04+1), server 15.7)
SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, compression: off)
Type "help" for help.

postgres=>

psql सेशन से बाहर निकलने के लिए:

exit

5. GCE वर्चुअल मशीन तैयार करना

सेवा खाता बनाएं

हम GenAI के डेटाबेस को वापस पाने की सेवा को डिप्लॉय करने और सैंपल ऐप्लिकेशन को होस्ट करने के लिए, अपने वीएम का इस्तेमाल करेंगे. इसलिए, पहला चरण Google सेवा खाता (जीएसए) बनाना है. GSA का इस्तेमाल GCE VM करेगा. साथ ही, हमें इसे अन्य सेवाओं के साथ काम करने के लिए ज़रूरी अनुमतियां देनी होंगी.

Cloud Shell में यह कमांड चलाएं:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create compute-aip --project $PROJECT_ID
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudbuild.builds.editor"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/artifactregistry.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/storage.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/run.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/iam.serviceAccountUser"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.viewer"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.client"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"

GCE वीएम डिप्लॉय करना

Cloud SQL इंस्टेंस के लिए, उसी इलाके और वीपीसी में एक GCE वीएम बनाएं.

Cloud Shell में यह कमांड चलाएं:

export ZONE=us-central1-a
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform \
  --service-account=compute-aip@$PROJECT_ID.iam.gserviceaccount.com

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform

Created [https://www.googleapis.com/compute/v1/projects/test-project-402417/zones/us-central1-a/instances/instance-1].
NAME: instance-1
ZONE: us-central1-a
MACHINE_TYPE: n1-standard-1
PREEMPTIBLE: 
INTERNAL_IP: 10.128.0.2
EXTERNAL_IP: 34.71.192.233
STATUS: RUNNING

वर्चुअल मशीन को Cloud SQL से कनेक्ट करने की अनुमति देना

हमें अपने Cloud SQL इंस्टेंस के लिए, अनुमति वाले नेटवर्क की सूची में अपने वीएम का सार्वजनिक आईपी जोड़ना होगा. Cloud Shell में यह कमांड चलाएं:

VM_EXTERNAL_IP=$(gcloud compute instances describe instance-1 --zone=us-central1-a --format='get(networkInterfaces[0].accessConfigs[0].natIP)')
gcloud sql instances patch my-cloudsql-instance --authorized-networks=$VM_EXTERNAL_IP

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
student@cloudshell:~ (test-project-402417)$ VM_EXTERNAL_IP=$(gcloud compute instances describe instance-1 --zone=us-central1-a --format='get(networkInterfaces[0].accessConfigs[0].natIP)')
gcloud sql instances patch my-cloudsql-instance --authorized-networks=$VM_EXTERNAL_IP
When adding a new IP address to authorized networks, make sure to also include any IP addresses that have already been authorized. Otherwise, they will be overwritten and de-authorized.

Do you want to continue (Y/n)?  Y

The following message will be used for the patch API method.
{"name": "my-cloudsql-instance", "project": "test-project-402417", "settings": {"ipConfiguration": {"authorizedNetworks": [{"value": "34.71.252.173"}]}}}
Patching Cloud SQL instance...done.                                                                                                                                                                                     
Updated [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].

डेटाबेस क्लाइंट इंस्टॉल करना

MySQL

डिप्लॉय की गई वीएम पर, MySQL क्लाइंट सॉफ़्टवेयर इंस्टॉल करें.

वीएम से कनेक्ट करें:

gcloud compute ssh instance-1 --zone=us-central1-a

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Updating project ssh metadata...working..Updated [https://www.googleapis.com/compute/v1/projects/test-project-402417].                                                                                                                                                         
Updating project ssh metadata...done.                                                                                                                                                                                                                                              
Waiting for SSH key to propagate.
Warning: Permanently added 'compute.5110295539541121102' (ECDSA) to the list of known hosts.
Linux instance-1 5.10.0-26-cloud-amd64 #1 SMP Debian 5.10.197-1 (2023-09-29) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$ 

वर्चुअल मशीन में, कमांड चलाने वाला सॉफ़्टवेयर इंस्टॉल करें:

sudo apt-get update
sudo apt-get install --yes default-mysql-client

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ sudo apt-get update
sudo apt-get install --yes mysql-client
Reading package lists... Done
Building dependency tree... Done
Reading state information... Done
The following additional packages will be installed:
  libconfig-inifiles-perl libdbd-mariadb-perl libdbi-perl libgdbm-compat4 libperl5.32 libterm-readkey-perl mariadb-client-10.5 mariadb-client-core-10.5 perl perl-modules-5.32
Suggested packages:
  libclone-perl libmldbm-perl libnet-daemon-perl libsql-statement-perl perl-doc libterm-readline-gnu-perl | libterm-readline-perl-perl make libtap-harness-archive-perl
The following NEW packages will be installed:
  default-mysql-client libconfig-inifiles-perl libdbd-mariadb-perl libdbi-perl libgdbm-compat4 libperl5.32 libterm-readkey-perl mariadb-client-10.5 mariadb-client-core-10.5 perl
  Perl-modules-5.32
...redacted...
Processing triggers for libc-bin (2.31-13+deb11u10) ...

PostgreSQL

डिप्लॉय की गई वर्चुअल मशीन (वीएम) पर, PostgreSQL क्लाइंट सॉफ़्टवेयर इंस्टॉल करें.

वीएम से कनेक्ट करें:

gcloud compute ssh instance-1 --zone=us-central1-a

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Updating project ssh metadata...working..Updated [https://www.googleapis.com/compute/v1/projects/test-project-402417].                                                                                                                                                         
Updating project ssh metadata...done.                                                                                                                                                                                                                                              
Waiting for SSH key to propagate.
Warning: Permanently added 'compute.5110295539541121102' (ECDSA) to the list of known hosts.
Linux instance-1 5.10.0-26-cloud-amd64 #1 SMP Debian 5.10.197-1 (2023-09-29) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$ 

वर्चुअल मशीन में, कमांड चलाने वाला सॉफ़्टवेयर इंस्टॉल करें:

sudo apt-get update
sudo apt-get install --yes postgresql-client

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ sudo apt-get update
sudo apt-get install --yes postgresql-client
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
Get:4 file:/etc/apt/mirrors/debian-security.list Mirrorlist [39 B]
Hit:7 https://packages.cloud.google.com/apt google-compute-engine-bookworm-stable InRelease
Get:8 https://packages.cloud.google.com/apt cloud-sdk-bookworm InRelease [1652 B]
Get:2 https://deb.debian.org/debian bookworm InRelease [151 kB]
Get:3 https://deb.debian.org/debian bookworm-updates InRelease [55.4 kB]
...redacted...
update-alternatives: using /usr/share/postgresql/15/man/man1/psql.1.gz to provide /usr/share/man/man1/psql.1.gz (psql.1.gz) in auto mode
Setting up postgresql-client (15+248) ...
Processing triggers for man-db (2.11.2-2) ...
Processing triggers for libc-bin (2.36-9+deb12u7) ...

इंस्टेंस से कनेक्ट करना

MySQL

MySQL का इस्तेमाल करके, वीएम से प्राइमरी इंस्टेंस से कनेक्ट करें.

अपनी वीएम पर खुले हुए एसएसएच सेशन का इस्तेमाल जारी रखें. अगर आपका कनेक्शन बंद हो गया है, तो ऊपर दिए गए निर्देश का इस्तेमाल करके फिर से कनेक्ट करें.

GCE VM से Cloud SQL से कनेक्ट करने के लिए, पहले नोट किए गए $CLOUDSQL_PASSWORD और इंस्टेंस के नाम का इस्तेमाल करें:

export CLOUDSQL_PASSWORD=<Noted password>
export PROJECT_ID=$(gcloud config get-value project)
export REGION=us-central1
export INSTANCE_NAME=my-cloudsql-instance
export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
mysql --host=$INSTANCE_IP --user=root --password=$CLOUDSQL_PASSWORD

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ export CLOUDSQL_PASSWORD=P9...
student@instance-1:~$ export REGION=us-central1
student@instance-1:~$ export INSTANCE_NAME=my-cloud-sql-instance
student@instance-1:~$ export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
student@instance-1:~$ mysql  –host=$INSTANCE_IP –user=root –password=$CLOUDSQL_PASSWORD –sslmode=require 
Welcome to the MariaDB monitor.  Commands end with ; or \g.
Your MySQL connection id is 2824706
Server version: 8.0.36-google (Google)

Copyright (c) 2000, 2018, Oracle, MariaDB Corporation Ab and others.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

MySQL [(none)]>

एसएसएच कनेक्शन चालू रखते हुए, MySQL सेशन से बाहर निकलें:

exit

कंसोल का अनुमानित आउटपुट:

MySQL [(none)]> exit
Bye
student@instance-1:~$ 

PostgreSQL

psql का इस्तेमाल करके, वीएम से प्राइमरी इंस्टेंस से कनेक्ट करें.

अपनी वीएम पर खुले हुए एसएसएच सेशन का इस्तेमाल जारी रखें. अगर आपका कनेक्शन बंद हो गया है, तो ऊपर दिए गए निर्देश का इस्तेमाल करके फिर से कनेक्ट करें.

GCE VM से PostgreSQL से कनेक्ट करने के लिए, पहले नोट किए गए $CLOUDSQL_PASSWORD और इंस्टेंस के नाम का इस्तेमाल करें:

export PGPASSWORD=<Noted password (CLOUDSQL_PASSWORD)>
export CLOUDSQL_PASSWORD=$PGPASSWORD
export PROJECT_ID=$(gcloud config get-value project)
export REGION=us-central1
export INSTANCE_NAME=my-cloudsql-instance
export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
psql "host=$INSTANCE_IP user=postgres sslmode=require"

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ export CLOUDSQL_PASSWORD=P9...
student@instance-1:~$ export REGION=us-central1
student@instance-1:~$ export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres sslmode=require"
psql (13.11 (Debian 13.11-0+deb11u1), server 14.7)
WARNING: psql major version 13, server major version 14.
         Some psql features might not work.
SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, bits: 256, compression: off)
Type "help" for help.

postgres=> 

एसएसएच कनेक्शन चालू रखते हुए, psql सेशन से बाहर निकलें:

exit

कंसोल का अनुमानित आउटपुट:

postgres=> exit
student@instance-1:~$ 

6. डेटाबेस को शुरू करना

हम अपने क्लाइंट वीएम का इस्तेमाल, डेटाबेस में डेटा भरने और ऐप्लिकेशन को होस्ट करने के लिए करेंगे. पहला चरण, डेटाबेस बनाना और उसमें डेटा डालना है.

डेटाबेस बनाएं

MySQL

"assistantdemo" नाम का डेटाबेस बनाएं.

GCE वीएम सेशन में यह कमांड चलाएं:

mysql --host=$INSTANCE_IP  --user=root --password=$CLOUDSQL_PASSWORD -e "CREATE DATABASE assistantdemo"

अनुमानित कंसोल आउटपुट (कोई आउटपुट नहीं):

student@instance-1:~$ mysql --host=$INSTANCE_IP  --user=root --password=$CLOUDSQL_PASSWORD -e "CREATE DATABASE assistantdemo"
student@instance-1:~$  

PostgreSQL

"assistantdemo" नाम का डेटाबेस बनाएं.

GCE वीएम सेशन में यह कमांड चलाएं:

psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"  

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"
CREATE DATABASE
student@instance-1:~$  

pgvector एक्सटेंशन चालू करें.

psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "CREATE EXTENSION vector"  

अनुमानित कंसोल आउटपुट (कोई आउटपुट नहीं):

student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "CREATE EXTENSION vector"
CREATE EXTENSION
student@instance-1:~$

Python एनवायरमेंट तैयार करना

आगे बढ़ने के लिए, हम GitHub रिपॉज़िटरी से तैयार की गई Python स्क्रिप्ट का इस्तेमाल करेंगे. हालांकि, इससे पहले हमें ज़रूरी सॉफ़्टवेयर इंस्टॉल करना होगा.

GCE वीएम में यह कमांड चलाएं:

sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip
Reading package lists... Done
Building dependency tree... Done
Reading state information... Done
The following additional packages will be installed:
  git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl
Suggested packages:
  git-daemon-run | git-daemon-sysvinit git-doc git-email git-gui gitk gitweb git-cvs git-mediawiki git-svn ed diffutils-doc
The following NEW packages will be installed:
  git git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl python3.11-venv
0 upgraded, 9 newly installed, 0 to remove and 2 not upgraded.
Need to get 12.4 MB of archives.
After this operation, 52.2 MB of additional disk space will be used.
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
...redacted...
Installing collected packages: pip
  Attempting uninstall: pip
    Found existing installation: pip 23.0.1
    Uninstalling pip-23.0.1:
      Successfully uninstalled pip-23.0.1
Successfully installed pip-24.0
(.venv) student@instance-1:~$

Python के वर्शन की पुष्टि करें.

GCE वीएम में यह कमांड चलाएं:

python -V

कंसोल का अनुमानित आउटपुट:

(.venv) student@instance-1:~$ python -V
Python 3.11.2
(.venv) student@instance-1:~$ 

कॉन्फ़िगरेशन फ़ाइल तैयार करना

डेटा वापस पाने की सेवा और सैंपल ऐप्लिकेशन के कोड के साथ GitHub रिपॉज़िटरी को क्लोन करें.

GCE वीएम में यह कमांड चलाएं:

git clone https://github.com/GoogleCloudPlatform/genai-databases-retrieval-app.git

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ git clone https://github.com/GoogleCloudPlatform/genai-databases-retrieval-app.git
Cloning into 'genai-databases-retrieval-app'...
remote: Enumerating objects: 525, done.
remote: Counting objects: 100% (336/336), done.
remote: Compressing objects: 100% (201/201), done.
remote: Total 525 (delta 224), reused 179 (delta 135), pack-reused 189
Receiving objects: 100% (525/525), 46.58 MiB | 16.16 MiB/s, done.
Resolving deltas: 100% (289/289), done.

MySQL

GCE वीएम में यह कमांड चलाएं:

cd ~/genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
cp example-config-cloudsql.yml config.yml
sed -i s/engine/mysql/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password//g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/root/g config.yml
cat config.yml

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ cd genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/127.0.0.1/$INSTANCE_IP/g config.yml
sed -i s/my-password/$CLOUDSQL_PASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml
host: 0.0.0.0
# port: 8080
datastore:
  # Example for MySQL
  kind: "cloudsql-mysql"
  host: 10.65.0.2
  # port: 5432
  database: "assistantdemo"
  user: "root"
  password: "P9..."

Postgres

GCE वीएम में यह कमांड चलाएं:

cd ~/genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/engine/postgres/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password/$PGPASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ cd genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/engine/postgres/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password/$CLOUDSQL_PASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml
host: 0.0.0.0
# port: 8080
datastore:
  # Example for Postgres
  kind: "cloudsql-postgres"
  host: 10.65.0.2
  # port: 5432
  database: "assistantdemo"
  user: "postgres"
  password: "P9..."

डेटाबेस में डेटा डालना

डेटाबेस में सैंपल डेटासेट डालें. पहली कमांड, हमारे Python वर्चुअल एनवायरमेंट में सभी ज़रूरी पैकेज जोड़ रही है. वहीं, दूसरी कमांड हमारे डेटाबेस में डेटा भर रही है.

GCE वीएम में यह कमांड चलाएं:

cd ~/genai-databases-retrieval-app/retrieval_service
pip install -r requirements.txt
python run_database_init.py

कंसोल का अनुमानित आउटपुट (बदला गया):

student@instance-1:~/genai-databases-retrieval-app/retrieval_service$ pip install -r requirements.txt
python run_database_init.py
Collecting asyncpg==0.28.0 (from -r requirements.txt (line 1))
  Obtaining dependency information for asyncpg==0.28.0 from https://files.pythonhosted.org/packages/77/a4/88069f7935b14c58534442a57be3299179eb46aace2d3c8716be199ff6a6/asyncpg-0.28.0-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl.metadata
  Downloading asyncpg-0.28.0-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl.metadata (4.3 kB)
Collecting fastapi==0.101.1 (from -r requirements.txt (line 2))
...
database init done.
student@instance-1:~/genai-databases-retrieval-app/retrieval_service$

7. डेटा पाने की सेवा को Cloud Run पर डिप्लॉय करना

अब हम Cloud Run पर, डेटा वापस पाने की सेवा को डिप्लॉय कर सकते हैं. इस सेवा की ज़िम्मेदारी, डेटाबेस के साथ काम करने और एआई ऐप्लिकेशन के अनुरोध के आधार पर डेटाबेस से ज़रूरी जानकारी निकालने की होती है.

सेवा खाता बनाएं

डेटा वापस पाने की सेवा के लिए एक सेवा खाता बनाएं और ज़रूरी अनुमतियां दें.

सबसे ऊपर मौजूद "+" साइन का इस्तेमाल करके, Cloud Shell का कोई दूसरा टैब खोलें.

4ca978f5142bb6ce.png

नए क्लाउड शेल टैब में यह कमांड चलाएं:

export PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create retrieval-identity
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"
gcloud projects add-iam-policy-binding $PROJECT_ID \
--member="serviceAccount:retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.client"

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-003)$ gcloud iam service-accounts create retrieval-identity
Created service account [retrieval-identity].

टैब में "exit" कमांड डालकर टैब बंद करें:

exit

डेटा वापस पाने की सेवा को डिप्लॉय करना

पहले टैब में जारी रखें. यहां सेवा को डिप्लॉय करके, एसएसएच के ज़रिए वीएम से कनेक्ट किया जाता है.

वीएम के एसएसएच सेशन में यह कमांड चलाएं:

cd ~/genai-databases-retrieval-app
gcloud alpha run deploy retrieval-service \
    --source=./retrieval_service/\
    --no-allow-unauthenticated \
    --service-account retrieval-identity \
    --region us-central1 \
    --network=default \
    --quiet

कंसोल का अनुमानित आउटपुट:

student@instance-1:~/genai-databases-retrieval-app$ gcloud alpha run deploy retrieval-service \
    --source=./retrieval_service/\
    --no-allow-unauthenticated \
    --service-account retrieval-identity \
    --region us-central1 \
    --network=default
This command is equivalent to running `gcloud builds submit --tag [IMAGE] ./retrieval_service/` and `gcloud run deploy retrieval-service --image [IMAGE]`

Building using Dockerfile and deploying container to Cloud Run service [retrieval-service] in project [gleb-test-short-003] region [us-central1]
X Building and deploying... Done.
  ✓ Uploading sources...
  ✓ Building Container... Logs are available at [https://console.cloud.google.com/cloud-build/builds/6ebe74bf-3039-4221-b2e9-7ca8fa8dad8e?project=1012713954588].
  ✓ Creating Revision...
  ✓ Routing traffic...
    Setting IAM Policy...
Completed with warnings:
  Setting IAM policy failed, try "gcloud beta run services remove-iam-policy-binding --region=us-central1 --member=allUsers --role=roles/run.invoker retrieval-service"
Service [retrieval-service] revision [retrieval-service-00002-4pl] has been deployed and is serving 100 percent of traffic.
Service URL: https://retrieval-service-onme64eorq-uc.a.run.app
student@instance-1:~/genai-databases-retrieval-app$

सेवा की पुष्टि करना

अब हम यह देख सकते हैं कि सेवा सही तरीके से काम कर रही है या नहीं और वीएम के पास एंडपॉइंट का ऐक्सेस है या नहीं. हम डेटा वापस पाने की सेवा के एंडपॉइंट को पाने के लिए, gcloud यूटिलिटी का इस्तेमाल करते हैं. इसके अलावा, इसे Cloud Console में देखा जा सकता है. साथ ही, कर्ल कमांड में "$(gcloud run services list –filter="(retrieval-service)" को Cloud Console में मौजूद वैल्यू से बदला जा सकता है.

वीएम के एसएसएच सेशन में यह कमांड चलाएं:

curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

कंसोल का अनुमानित आउटपुट:

student@instance-1:~/genai-databases-retrieval-app$ curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")
{"message":"Hello World"}student@instance-1:~/genai-databases-retrieval-app$

अगर हमें "Hello World" मैसेज दिखता है, तो इसका मतलब है कि हमारी सेवा चालू है और अनुरोधों को पूरा कर रही है.

8. सैंपल ऐप्लिकेशन डिप्लॉय करना

अब जब डेटा वापस पाने की सेवा चालू हो गई है, तब हम एक सैंपल ऐप्लिकेशन डिप्लॉय कर सकते हैं. यह ऐप्लिकेशन, इस सेवा का इस्तेमाल करेगा. ऐप्लिकेशन को वीएम या Cloud Run, Kubernetes जैसी किसी अन्य सेवा पर डिप्लॉय किया जा सकता है. इसे लैपटॉप पर भी डिप्लॉय किया जा सकता है. यहां हम इसे वीएम पर डिप्लॉय करने का तरीका बताने जा रहे हैं.

एनवायरमेंट तैयार करना

हम उसी एसएसएच सेशन का इस्तेमाल करके, अपने वीएम पर काम करना जारी रखते हैं. अपने ऐप्लिकेशन को चलाने के लिए, हमें कुछ Python मॉड्यूल जोड़ने होंगे. यह कमांड, Python के उसी वर्चुअल एनवायरमेंट में ऐप्लिकेशन डायरेक्ट्री से एक्ज़ीक्यूट की जाएगी.

वीएम के एसएसएच सेशन में यह कमांड चलाएं:

cd ~/genai-databases-retrieval-app/llm_demo
pip install -r requirements.txt

अनुमानित आउटपुट (बदला गया):

student@instance-1:~$ cd ~/genai-databases-retrieval-app/llm_demo
pip install -r requirements.txt
Collecting fastapi==0.104.0 (from -r requirements.txt (line 1))
  Obtaining dependency information for fastapi==0.104.0 from https://files.pythonhosted.org/packages/db/30/b8d323119c37e15b7fa639e65e0eb7d81eb675ba166ac83e695aad3bd321/fastapi-0.104.0-py3-none-any.whl.metadata
  Downloading fastapi-0.104.0-py3-none-any.whl.metadata (24 kB)
...

क्लाइंट आईडी तैयार करना

ऐप्लिकेशन की बुकिंग सुविधा का इस्तेमाल करने के लिए, हमें Cloud Console का इस्तेमाल करके OAuth 2.0 क्लाइंट आईडी तैयार करना होगा. ऐसा तब होगा, जब हम ऐप्लिकेशन में साइन इन करेंगे. ऐसा इसलिए, क्योंकि बुकिंग, डेटाबेस में बुकिंग का डेटा रिकॉर्ड करने के लिए क्लाइंट के क्रेडेंशियल का इस्तेमाल करती है.

Cloud Console में, APIs and Services पर जाएं. इसके बाद, "OAuth consent screen" पर क्लिक करें और "Internal" उपयोगकर्ता चुनें.

2400e5dcdb93eab8.png

इसके बाद, "बनाएं" पर क्लिक करें और अगली स्क्रीन पर दिए गए निर्देशों का पालन करें.

6c34d235156e571f.png

आपको "ऐप्लिकेशन का नाम" और "उपयोगकर्ता सहायता के लिए ईमेल पता" जैसे ज़रूरी फ़ील्ड भरने होंगे. इसके अलावा, सहमति वाली स्क्रीन पर दिखाने के लिए कोई डोमेन जोड़ा जा सकता है. आखिर में, "डेवलपर की संपर्क जानकारी"

2b7cd51aff915072.png

इसके बाद, पेज पर सबसे नीचे मौजूद "सेव करें और जारी रखें" बटन पर क्लिक करें. इससे आपको अगले पेज पर भेज दिया जाएगा.

d90c10c88fd347f9.png

अगर आपको स्कोप तय करने हैं, तो आपको वहां कुछ भी बदलने की ज़रूरत नहीं है. आखिर में, "सेव करें और जारी रखें" बटन पर फिर से क्लिक करके इसकी पुष्टि करें. इससे, ऐप्लिकेशन के लिए सहमति वाली स्क्रीन सेट अप हो जाएगी.

अगला चरण, क्लाइंट आईडी बनाना है. बाईं ओर मौजूद पैनल में, "क्रेडेंशियल" पर क्लिक करें. इससे आपको OAuth2 के क्रेडेंशियल मिलेंगे.

7ad97432390f224c.png

यहां सबसे ऊपर मौजूद "क्रेडेंशियल बनाएं'' पर क्लिक करें और "OAuth ClientID" चुनें. इसके बाद, एक और स्क्रीन खुलेगी.

325a926431c8f16d.png

ऐप्लिकेशन टाइप के लिए, ड्रॉपडाउन सूची से "वेब ऐप्लिकेशन" चुनें. साथ ही, अपने ऐप्लिकेशन के यूआरआई (और पोर्ट - ज़रूरी नहीं) को "अनुमति वाले JavaScript ऑरिजिन" के तौर पर डालें. साथ ही, आपको "अनुमति वाले रीडायरेक्ट यूआरआई" में अपने ऐप्लिकेशन होस्ट को जोड़ना होगा. इसके आखिर में "/login/google" जोड़ें, ताकि अनुमति वाले पॉप-अप स्क्रीन का इस्तेमाल किया जा सके. ऊपर दी गई इमेज में, आपको दिखेगा कि मैंने http://localhost को अपने ऐप्लिकेशन के आधार यूआरआई के तौर पर इस्तेमाल किया है.

"बनाएं" बटन दबाने के बाद, आपको एक पॉप-अप विंडो दिखेगी. इसमें आपके क्लाइंट के क्रेडेंशियल होंगे.

e91adf03ec31cd15.png

हमें बाद में अपने ऐप्लिकेशन के साथ इस्तेमाल करने के लिए, क्लाइंट आईडी (और क्लाइंट सीक्रेट) की ज़रूरत होगी

Assistant ऐप्लिकेशन चलाना

आवेदन शुरू करने से पहले, हमें कुछ एनवायरमेंट वैरिएबल सेट अप करने होंगे. ऐप्लिकेशन के बुनियादी फ़ंक्शन, जैसे कि फ़्लाइट और एयरपोर्ट की सुविधाओं के बारे में क्वेरी करने के लिए, सिर्फ़ BASE_URL की ज़रूरत होती है. यह ऐप्लिकेशन को डेटा वापस पाने की सेवा की ओर ले जाता है. इसे gcloud कमांड का इस्तेमाल करके पाया जा सकता है .

वीएम के एसएसएच सेशन में यह कमांड चलाएं:

export BASE_URL=$(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

अनुमानित आउटपुट (बदला गया):

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ export BASE_URL=$(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

फ़्लाइट बुक करने और उनमें बदलाव करने जैसी ऐप्लिकेशन की ज़्यादा बेहतर सुविधाओं का इस्तेमाल करने के लिए, हमें अपने Google खाते से ऐप्लिकेशन में साइन इन करना होगा. इसके लिए, हमें CLIENT_ID एनवायरमेंट वैरिएबल देना होगा. इसके लिए, 'क्लाइंट आईडी तैयार करना' चैप्टर में दिए गए OAuth क्लाइंट आईडी का इस्तेमाल करें:

export CLIENT_ID=215....apps.googleusercontent.com

अनुमानित आउटपुट (बदला गया):

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ export CLIENT_ID=215....apps.googleusercontent.com

अब हम अपना ऐप्लिकेशन चला सकते हैं:

python run_app.py

अनुमानित आउटपुट:

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ python main.py
INFO:     Started server process [28565]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8081 (Press CTRL+C to quit)

ऐप्लिकेशन से कनेक्ट करना

आपके पास वीएम पर चल रहे ऐप्लिकेशन से कनेक्ट करने के कई तरीके हैं. उदाहरण के लिए, वीपीसी में फ़ायरवॉल के नियमों का इस्तेमाल करके, वीएम पर पोर्ट 8081 खोला जा सकता है. इसके अलावा, सार्वजनिक आईपी वाला लोड बैलेंसर बनाया जा सकता है. यहां हम वीएम के लिए एसएसएच टनल का इस्तेमाल करेंगे. इससे लोकल पोर्ट 8080 को वीएम पोर्ट 8081 में ट्रांसलेट किया जा सकेगा.

लोकल मशीन से कनेक्ट करना

जब हमें किसी लोकल मशीन से कनेक्ट करना होता है, तब हमें एसएसएच टनल चलाना होता है. इसके लिए, gcloud compute ssh का इस्तेमाल किया जा सकता है:

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8081:localhost:8081

अनुमानित आउटपुट:

student-macbookpro:~ student$ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
Warning: Permanently added 'compute.7064281075337367021' (ED25519) to the list of known hosts.
Linux instance-1.us-central1-c.c.gleb-test-001.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$

अब हम ब्राउज़र खोल सकते हैं और अपने ऐप्लिकेशन से कनेक्ट करने के लिए, http://localhost:8081 का इस्तेमाल कर सकते हैं. हमें आवेदन करने की स्क्रीन दिखनी चाहिए.

c667b9013afac3f9.png

Cloud Shell से कनेक्ट करना

इसके अलावा, कनेक्ट करने के लिए Cloud Shell का इस्तेमाल किया जा सकता है. सबसे ऊपर मौजूद "+" साइन का इस्तेमाल करके, Cloud Shell का कोई दूसरा टैब खोलें.

4ca978f5142bb6ce.png

नई क्लाउड शेल टैब में, gcloud कमांड को लागू करके अपनी वीएम मशीन से टनल शुरू करें:

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081

आपको "अनुरोध किया गया पता असाइन नहीं किया जा सकता" गड़बड़ी का मैसेज दिखेगा. कृपया इसे अनदेखा करें.

अनुमानित आउटपुट यहां दिया गया है:

student@cloudshell:~ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
bind [::1]:8081: Cannot assign requested address
inux instance-1.us-central1-a.c.gleb-codelive-01.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
Last login: Sat May 25 19:15:46 2024 from 35.243.235.73
student@instance-1:~$

इससे आपके क्लाउड शेल पर पोर्ट 8080 खुल जाता है. इसका इस्तेमाल "वेब प्रीव्यू" के लिए किया जा सकता है.

Cloud Shell में सबसे ऊपर दाईं ओर मौजूद "वेब प्रीव्यू" बटन पर क्लिक करें. इसके बाद, ड्रॉप-डाउन मेन्यू से "पोर्ट 8080 पर प्रीव्यू करें" चुनें.

444fbf54dcd4d160.png

इससे आपके वेब ब्राउज़र में एक नया टैब खुलता है. इसमें ऐप्लिकेशन इंटरफ़ेस होता है. आपको "Cymbal Air Customer Service Assistant" पेज दिखेगा. पेज के पता बार में, हमें झलक वाले पेज का यूआरआई दिखता है. हमें आखिर में मौजूद "/?authuser=0&redirectedPreviously=true" हिस्से को हटाना होगा

389f0ae2945beed5.png

साथ ही, यूआरआई के पहले हिस्से का इस्तेमाल करें. जैसे, "https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev/" को ब्राउज़र विंडो में छोड़ दिया जाता है. साथ ही, इसे "अनुमति वाले JavaScript ऑरिजिन" और "अनुमति वाले रीडायरेक्ट यूआरआई" के तौर पर उपलब्ध कराया जाता है. ऐसा "क्लाइंट आईडी तैयार करें" चैप्टर में बनाए गए हमारे क्रेडेंशियल के लिए किया जाता है. इसके लिए, मूल रूप से उपलब्ध कराई गई http://localhost:8080 वैल्यू को बदला जाता है या उसमें जोड़ा जाता है. ऊपर दी गई वैल्यू "https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev" की तरह दिखेगी और नीचे दी गई वैल्यू "https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev/login/google" की तरह दिखेगी

2c37eeda0a7e2f80.png

ऐप्लिकेशन में साइन इन करना

सब कुछ सेट अप हो जाने और ऐप्लिकेशन खुल जाने के बाद, हम अपने क्रेडेंशियल देने के लिए, ऐप्लिकेशन की स्क्रीन पर सबसे ऊपर दाईं ओर मौजूद "साइन इन करें" बटन का इस्तेमाल कर सकते हैं. यह ज़रूरी नहीं है. इसकी ज़रूरत सिर्फ़ तब होती है, जब आपको ऐप्लिकेशन की बुकिंग की सुविधा आज़मानी हो.

a1f571371b957129.png

इससे एक पॉप-अप विंडो खुलेगी. इसमें हम अपने क्रेडेंशियल चुन सकते हैं.

साइन इन करने के बाद, ऐप्लिकेशन इस्तेमाल के लिए तैयार हो जाता है. इसके बाद, विंडो में सबसे नीचे मौजूद फ़ील्ड में अपने अनुरोध पोस्ट किए जा सकते हैं.

इस डेमो में, Cymbal Air के ग्राहक सेवा असिस्टेंट को दिखाया गया है. Cymbal Air, यात्रियों को हवाई यात्रा कराने वाली एक काल्पनिक एयरलाइन है. यह असिस्टेंट, एआई चैटबॉट है. यह यात्रियों को फ़्लाइट मैनेज करने में मदद करता है. साथ ही, सैन फ़्रांसिस्को अंतरराष्ट्रीय हवाई अड्डे (एसएफ़ओ) पर Cymbal Air के हब के बारे में जानकारी ढूंढने में मदद करता है.

साइन इन किए बिना (CLIENT_ID के बिना), यह उपयोगकर्ताओं के सवालों के जवाब देने में मदद कर सकता है. जैसे:

डेनवर के लिए अगली फ़्लाइट कब है?

क्या गेट C28 के आस-पास कोई लग्ज़री शॉप है?

मुझे गेट A6 के पास कॉफ़ी कहां मिल सकती है?

मैं उपहार कहां से खरीद सकता हूं?

कृपया डेनवर के लिए सुबह 10:35 बजे की फ़्लाइट बुक करें

ऐप्लिकेशन में साइन इन करने के बाद, फ़्लाइट बुक करने या यह देखने जैसी अन्य सुविधाएं आज़माई जा सकती हैं कि आपको मिली सीट, विंडो सीट है या आइल सीट.

6e7758f707c67c3e.png

यह ऐप्लिकेशन, जवाब जनरेट करने के लिए Google के सबसे नए फ़ाउंडेशन मॉडल का इस्तेमाल करता है. साथ ही, Cloud SQL डेटाबेस से फ़्लाइट और सुविधाओं के बारे में जानकारी लेकर, जवाब को बेहतर बनाता है. इस डेमो ऐप्लिकेशन के बारे में ज़्यादा जानने के लिए, प्रोजेक्ट के Github पेज पर जाएं.

9. एनवायरमेंट को साफ़ करना

सभी टास्क पूरे होने के बाद, हम अपने एनवायरमेंट को साफ़ कर सकते हैं.

Cloud Run सेवा मिटाना

Cloud Shell में यह कमांड चलाएं:

gcloud run services delete retrieval-service --region us-central1

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-004)$ gcloud run services delete retrieval-service --region us-central1
Service [retrieval-service] will be deleted.

Do you want to continue (Y/n)?  Y

Deleting [retrieval-service]...done.                                                                                                                                                                                                                 
Deleted service [retrieval-service].

Cloud Run सेवा के लिए सेवा खाता मिटाना

Cloud Shell में यह कमांड चलाएं:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
Your active configuration is: [cloudshell-222]
student@cloudshell:~ (gleb-test-short-004)$ gcloud iam service-accounts delete retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet
deleted service account [retrieval-identity@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$

Cloud SQL इंस्टेंस मिटाना

लैब का काम पूरा होने के बाद, Cloud SQL इंस्टेंस को मिटा दें

अगर आपका कनेक्शन बंद हो गया है और पिछली सभी सेटिंग मिट गई हैं, तो क्लाउड शेल में प्रोजेक्ट और एनवायरमेंट वैरिएबल तय करें:

export INSTANCE_NAME=my-cloudsql-instance
export PROJECT_ID=$(gcloud config get-value project)

इंस्टेंस मिटाने के लिए:

gcloud sql instances delete $INSTANCE_NAME --project=$PROJECT_ID

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~$ gcloud sql instances delete $INSTANCE_NAME --project=$PROJECT_ID
All of the instance data will be lost when the instance is deleted.

Do you want to continue (Y/n)?  y

Deleting Cloud SQL instance...done.                                                                                                                
Deleted [https://sandbox.googleapis.com/v1beta4/projects/test-project-001-402417/instances/my-cloudsql-instance].

अब हम अपने वीएम को डिस्ट्रॉय कर सकते हैं

GCE वीएम मिटाएं

Cloud Shell में यह कमांड चलाएं:

export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-001-402417)$ export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet
Deleted 

GCE वीएम और डेटा वापस पाने की सेवा के लिए, सेवा खाता मिटाएं

Cloud Shell में यह कमांड चलाएं:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet
Your active configuration is: [cloudshell-222]
deleted service account [compute-aip@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$ 

10. बधाई हो

कोडलैब पूरा करने के लिए बधाई.

हमने क्या-क्या बताया

  • Cloud SQL इंस्टेंस बनाने का तरीका
  • Cloud SQL इंस्टेंस से कनेक्ट करने का तरीका
  • GenAI Databases Retrieval Service को कॉन्फ़िगर और डिप्लॉय करने का तरीका
  • डिप्लॉय की गई सेवा का इस्तेमाल करके, सैंपल ऐप्लिकेशन को डिप्लॉय करने का तरीका

11. सर्वे

इस ट्यूटोरियल का इस्तेमाल कैसे किया जाएगा?

सिर्फ़ इसे पढ़ें इसे पढ़ें और एक्सरसाइज़ पूरी करें