AlloyDB Agentic RAG Application with MCP Toolbox

1. परिचय

e71e051395674233.gif

इस कोडलैब में, आपको AlloyDB क्लस्टर बनाने, एमसीपी टूलबॉक्स को डिप्लॉय करने, और इसे डेटा सोर्स के तौर पर AlloyDB का इस्तेमाल करने के लिए कॉन्फ़िगर करने का तरीका बताया गया है. इसके बाद, आपको एक सैंपल इंटरैक्टिव RAG ऐप्लिकेशन बनाना होगा. यह ऐप्लिकेशन, डिप्लॉय किए गए टूलबॉक्स का इस्तेमाल करके अपने अनुरोधों को पूरा करेगा.

f753f71c7116358a.png

आपको दस्तावेज़ वाले पेज पर, MCP टूलबॉक्स के बारे में ज़्यादा जानकारी मिल सकती है. साथ ही, आपको यहां, Cymbal Air ऐप्लिकेशन का सैंपल भी मिल सकता है.

यह लैब, AlloyDB AI की सुविधाओं के लिए बनाए गए लैब कलेक्शन का हिस्सा है. दस्तावेज़ में AlloyDB AI पेज पर जाकर, इस बारे में ज़्यादा जानें. साथ ही, अन्य लैब देखें.

ज़रूरी शर्तें

  • Google Cloud Console की बुनियादी जानकारी
  • कमांड लाइन इंटरफ़ेस और Google Cloud Shell की बुनियादी जानकारी

आपको क्या सीखने को मिलेगा

  • Vertex AI इंटिग्रेशन के साथ AlloyDB क्लस्टर को डिप्लॉय करने का तरीका
  • AlloyDB से कनेक्ट करने का तरीका
  • MCP Toolbox Service को कॉन्फ़िगर और डिप्लॉय करने का तरीका
  • डिप्लॉय की गई सेवा का इस्तेमाल करके, सैंपल ऐप्लिकेशन को डिप्लॉय करने का तरीका

आपको इन चीज़ों की ज़रूरत होगी

  • Google Cloud खाता और Google Cloud प्रोजेक्ट
  • कोई वेब ब्राउज़र, जैसे कि Chrome

2. सेटअप और ज़रूरी शर्तें

अपने हिसाब से एनवायरमेंट सेट अप करना

  1. Google Cloud Console में साइन इन करें और नया प्रोजेक्ट बनाएं या किसी मौजूदा प्रोजेक्ट का फिर से इस्तेमाल करें. अगर आपके पास पहले से Gmail या Google Workspace खाता नहीं है, तो आपको एक खाता बनाना होगा.

fbef9caa1602edd0.png

a99b7ace416376c4.png

5e3ff691252acf41.png

  • प्रोजेक्ट का नाम, इस प्रोजेक्ट में हिस्सा लेने वाले लोगों के लिए डिसप्ले नेम होता है. यह एक वर्ण स्ट्रिंग है, जिसका इस्तेमाल Google API नहीं करते. इसे कभी भी अपडेट किया जा सकता है.
  • प्रोजेक्ट आईडी, सभी Google Cloud प्रोजेक्ट के लिए यूनीक होता है. साथ ही, इसे बदला नहीं जा सकता. Cloud Console, यूनीक स्ट्रिंग को अपने-आप जनरेट करता है. आम तौर पर, आपको इससे कोई फ़र्क़ नहीं पड़ता कि यह क्या है. ज़्यादातर कोडलैब में, आपको अपने प्रोजेक्ट आईडी (आम तौर पर PROJECT_ID के तौर पर पहचाना जाता है) का रेफ़रंस देना होगा. अगर आपको जनरेट किया गया आईडी पसंद नहीं है, तो कोई दूसरा रैंडम आईडी जनरेट किया जा सकता है. इसके अलावा, आपके पास अपना नाम आज़माने का विकल्प भी है. इससे आपको पता चलेगा कि वह नाम उपलब्ध है या नहीं. इस चरण के बाद, इसे बदला नहीं जा सकता. यह प्रोजेक्ट की अवधि तक बना रहता है.
  • आपकी जानकारी के लिए बता दें कि एक तीसरी वैल्यू भी होती है, जिसे प्रोजेक्ट नंबर कहते हैं. इसका इस्तेमाल कुछ एपीआई करते हैं. इन तीनों वैल्यू के बारे में ज़्यादा जानने के लिए, दस्तावेज़ देखें.
  1. इसके बाद, आपको Cloud Console में बिलिंग चालू करनी होगी, ताकि Cloud संसाधनों/एपीआई का इस्तेमाल किया जा सके. इस कोडलैब को पूरा करने में ज़्यादा समय नहीं लगेगा. इस ट्यूटोरियल के बाद बिलिंग से बचने के लिए, संसाधनों को बंद किया जा सकता है. इसके लिए, बनाए गए संसाधनों को मिटाएं या प्रोजेक्ट को मिटाएं. Google Cloud के नए उपयोगकर्ता, 300 डॉलर के मुफ़्त में आज़माने वाले प्रोग्राम के लिए ज़रूरी शर्तें पूरी करते हैं.

Cloud Shell शुरू करें

Google Cloud को अपने लैपटॉप से रिमोटली ऐक्सेस किया जा सकता है. हालांकि, इस कोडलैब में Google Cloud Shell का इस्तेमाल किया जाएगा. यह क्लाउड में चलने वाला कमांड लाइन एनवायरमेंट है.

Google Cloud Console में, सबसे ऊपर दाएं कोने में मौजूद टूलबार पर, Cloud Shell आइकॉन पर क्लिक करें:

Cloud Shell चालू करें

इसे चालू करने और एनवायरमेंट से कनेक्ट करने में सिर्फ़ कुछ सेकंड लगेंगे. यह प्रोसेस पूरी होने के बाद, आपको कुछ ऐसा दिखेगा:

Google Cloud Shell टर्मिनल का स्क्रीनशॉट. इसमें दिखाया गया है कि एनवायरमेंट कनेक्ट हो गया है

इस वर्चुअल मशीन में, डेवलपमेंट के लिए ज़रूरी सभी टूल पहले से मौजूद हैं. यह 5 जीबी की होम डायरेक्ट्री उपलब्ध कराता है. साथ ही, यह Google Cloud पर काम करता है. इससे नेटवर्क की परफ़ॉर्मेंस और पुष्टि करने की प्रोसेस बेहतर होती है. इस कोडलैब में मौजूद सभी टास्क, ब्राउज़र में किए जा सकते हैं. आपको कुछ भी इंस्टॉल करने की ज़रूरत नहीं है.

3. शुरू करने से पहले

एपीआई चालू करना

आउटपुट:

Cloud Shell में, पक्का करें कि आपका प्रोजेक्ट आईडी सेट अप हो:

आम तौर पर, प्रोजेक्ट आईडी को क्लाउड शेल में कमांड प्रॉम्प्ट में कोष्ठक में दिखाया जाता है. जैसा कि इस इमेज में दिखाया गया है:

fa6ee779963405d5.png

gcloud config set project [YOUR-PROJECT-ID]

इसके बाद, PROJECT_ID एनवायरमेंट वैरिएबल को अपने Google Cloud प्रोजेक्ट आईडी पर सेट करें:

PROJECT_ID=$(gcloud config get-value project)

सभी ज़रूरी सेवाएं चालू करें:

gcloud services enable alloydb.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com \
                       secretmanager.googleapis.com

अनुमानित आउटपुट

student@cloudshell:~ (gleb-test-short-004)$ gcloud services enable alloydb.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com \
                       secretmanager.googleapis.com
Operation "operations/acf.p2-404051529011-664c71ad-cb2b-4ab4-86c1-1f3157d70ba1" finished successfully.

4. AlloyDB क्लस्टर डिप्लॉय करना

AlloyDB क्लस्टर और प्राइमरी इंस्टेंस बनाएं. Google Cloud SDK का इस्तेमाल करके, AlloyDB क्लस्टर और इंस्टेंस बनाने का तरीका यहां बताया गया है. अगर आपको कंसोल का इस्तेमाल करना है, तो यहां दिया गया दस्तावेज़ पढ़ें.

AlloyDB क्लस्टर बनाने से पहले, हमें अपने वीपीसी में एक उपलब्ध निजी आईपी रेंज की ज़रूरत होती है, ताकि इसका इस्तेमाल आने वाले समय में AlloyDB इंस्टेंस के लिए किया जा सके. अगर हमारे पास यह नहीं है, तो हमें इसे बनाना होगा. साथ ही, इसे Google की आंतरिक सेवाओं के लिए इस्तेमाल करने की अनुमति देनी होगी. इसके बाद, हम क्लस्टर और इंस्टेंस बना पाएंगे.

निजी आईपी रेंज बनाना

हमें AlloyDB के लिए, अपने वीपीसी में Private Service Access कॉन्फ़िगरेशन को कॉन्फ़िगर करना होगा. यहां यह मान लिया गया है कि प्रोजेक्ट में "डिफ़ॉल्ट" वीपीसी नेटवर्क है और इसका इस्तेमाल सभी कार्रवाइयों के लिए किया जाएगा.

निजी आईपी पते की रेंज बनाएं:

gcloud compute addresses create psa-range \
    --global \
    --purpose=VPC_PEERING \
    --prefix-length=24 \
    --description="VPC private service access" \
    --network=default

अलॉट की गई आईपी रेंज का इस्तेमाल करके, निजी कनेक्शन बनाएं:

gcloud services vpc-peerings connect \
    --service=servicenetworking.googleapis.com \
    --ranges=psa-range \
    --network=default

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud compute addresses create psa-range \
    --global \
    --purpose=VPC_PEERING \
    --prefix-length=24 \
    --description="VPC private service access" \
    --network=default
Created [https://www.googleapis.com/compute/v1/projects/test-project-402417/global/addresses/psa-range].

student@cloudshell:~ (test-project-402417)$ gcloud services vpc-peerings connect \
    --service=servicenetworking.googleapis.com \
    --ranges=psa-range \
    --network=default
Operation "operations/pssn.p24-4470404856-595e209f-19b7-4669-8a71-cbd45de8ba66" finished successfully.

student@cloudshell:~ (test-project-402417)$

AlloyDB क्लस्टर बनाएं

इस सेक्शन में, हम us-central1 क्षेत्र में एक AlloyDB क्लस्टर बना रहे हैं.

postgres उपयोगकर्ता के लिए पासवर्ड तय करें. आपके पास अपना पासवर्ड तय करने या पासवर्ड जनरेट करने के लिए, रैंडम फ़ंक्शन का इस्तेमाल करने का विकल्प होता है

export PGPASSWORD=`openssl rand -hex 12`

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ export PGPASSWORD=`openssl rand -hex 12`

PostgreSQL का पासवर्ड नोट करें, ताकि इसे बाद में इस्तेमाल किया जा सके.

echo $PGPASSWORD

postgres उपयोगकर्ता के तौर पर इंस्टेंस से कनेक्ट करने के लिए, आपको आने वाले समय में इस पासवर्ड की ज़रूरत होगी. हमारा सुझाव है कि आप इसे लिख लें या कहीं कॉपी कर लें, ताकि बाद में इसका इस्तेमाल किया जा सके.

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ echo $PGPASSWORD
bbefbfde7601985b0dee5723

मुफ़्त में आज़माने के लिए क्लस्टर बनाना

अगर आपने पहले कभी AlloyDB का इस्तेमाल नहीं किया है, तो बिना किसी शुल्क के आज़माने के लिए क्लस्टर बनाया जा सकता है:

रीजन और AlloyDB क्लस्टर का नाम तय करें. हम us-central1 क्षेत्र और alloydb-aip-01 को क्लस्टर के नाम के तौर पर इस्तेमाल करने जा रहे हैं:

export REGION=us-central1
export ADBCLUSTER=alloydb-aip-01

क्लस्टर बनाने के लिए, यह कमांड चलाएं:

gcloud alloydb clusters create $ADBCLUSTER \
    --password=$PGPASSWORD \
    --network=default \
    --region=$REGION \
    --subscription-type=TRIAL

कंसोल का अनुमानित आउटपुट:

export REGION=us-central1
export ADBCLUSTER=alloydb-aip-01
gcloud alloydb clusters create $ADBCLUSTER \
    --password=$PGPASSWORD \
    --network=default \
    --region=$REGION \
    --subscription-type=TRIAL
Operation ID: operation-1697655441138-6080235852277-9e7f04f5-2012fce4
Creating cluster...done.                                                                                                                                                                                                                                                           

उसी Cloud Shell सेशन में, हमारे क्लस्टर के लिए AlloyDB प्राइमरी इंस्टेंस बनाएं. अगर आपका कनेक्शन बंद हो जाता है, तो आपको क्षेत्र और क्लस्टर के नाम वाले एनवायरमेंट वैरिएबल फिर से तय करने होंगे.

gcloud alloydb instances create $ADBCLUSTER-pr \
    --instance-type=PRIMARY \
    --cpu-count=8 \
    --region=$REGION \
    --cluster=$ADBCLUSTER

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud alloydb instances create $ADBCLUSTER-pr \
    --instance-type=PRIMARY \
    --cpu-count=8 \
    --region=$REGION \
    --availability-type ZONAL \
    --cluster=$ADBCLUSTER
Operation ID: operation-1697659203545-6080315c6e8ee-391805db-25852721
Creating instance...done.                                                                                                                                                                                                                                                     

AlloyDB Standard क्लस्टर बनाना

अगर यह प्रोजेक्ट में आपका पहला AlloyDB क्लस्टर नहीं है, तो स्टैंडर्ड क्लस्टर बनाना जारी रखें.

रीजन और AlloyDB क्लस्टर का नाम तय करें. हम us-central1 क्षेत्र और alloydb-aip-01 को क्लस्टर के नाम के तौर पर इस्तेमाल करने जा रहे हैं:

export REGION=us-central1
export ADBCLUSTER=alloydb-aip-01

क्लस्टर बनाने के लिए, यह कमांड चलाएं:

gcloud alloydb clusters create $ADBCLUSTER \
    --password=$PGPASSWORD \
    --network=default \
    --region=$REGION

कंसोल का अनुमानित आउटपुट:

export REGION=us-central1
export ADBCLUSTER=alloydb-aip-01
gcloud alloydb clusters create $ADBCLUSTER \
    --password=$PGPASSWORD \
    --network=default \
    --region=$REGION 
Operation ID: operation-1697655441138-6080235852277-9e7f04f5-2012fce4
Creating cluster...done.                                                                                                                                                                                                                                                           

उसी Cloud Shell सेशन में, हमारे क्लस्टर के लिए AlloyDB प्राइमरी इंस्टेंस बनाएं. अगर आपका कनेक्शन बंद हो जाता है, तो आपको क्षेत्र और क्लस्टर के नाम वाले एनवायरमेंट वैरिएबल फिर से तय करने होंगे.

gcloud alloydb instances create $ADBCLUSTER-pr \
    --instance-type=PRIMARY \
    --cpu-count=2 \
    --region=$REGION \
    --cluster=$ADBCLUSTER

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud alloydb instances create $ADBCLUSTER-pr \
    --instance-type=PRIMARY \
    --cpu-count=2 \
    --region=$REGION \
    --availability-type ZONAL \
    --cluster=$ADBCLUSTER
Operation ID: operation-1697659203545-6080315c6e8ee-391805db-25852721
Creating instance...done.                                                                                                                                                                                                                                                     

AlloyDB को ज़रूरी अनुमतियां देना

AlloyDB सेवा एजेंट को Vertex AI की अनुमतियां दें.

सबसे ऊपर मौजूद "+" साइन का इस्तेमाल करके, Cloud Shell का कोई दूसरा टैब खोलें.

4ca978f5142bb6ce.png

नए क्लाउड शेल टैब में यह कमांड चलाएं:

PROJECT_ID=$(gcloud config get-value project)
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:service-$(gcloud projects describe $PROJECT_ID --format="value(projectNumber)")@gcp-sa-alloydb.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-001-402417)$ PROJECT_ID=$(gcloud config get-value project)
Your active configuration is: [cloudshell-11039]
student@cloudshell:~ (test-project-001-402417)$ gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:service-$(gcloud projects describe $PROJECT_ID --format="value(projectNumber)")@gcp-sa-alloydb.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"
Updated IAM policy for project [test-project-001-402417].
bindings:
- members:
  - serviceAccount:service-4470404856@gcp-sa-alloydb.iam.gserviceaccount.com
  role: roles/aiplatform.user
- members:
...
etag: BwYIEbe_Z3U=
version: 1
 

टैब में "exit" कमांड डालकर टैब बंद करें:

exit

5. GCE वर्चुअल मशीन तैयार करना

हम डेटाबेस के साथ काम करने और सैंपल ऐप्लिकेशन के अलग-अलग हिस्सों को डिप्लॉय करने के लिए, Google Compute Engine (GCE) VM का इस्तेमाल करेंगे. वर्चुअल मशीन का इस्तेमाल करने से, हमें इंस्टॉल किए गए कॉम्पोनेंट में ज़्यादा सुविधा मिलती है. साथ ही, डेटा तैयार करने के चरणों के लिए, हमें सीधे तौर पर निजी AlloyDB आईपी का ऐक्सेस मिलता है.

सेवा खाता बनाएं

हमारा वीएम, एमसीपी टूलबॉक्स को सेवा के तौर पर डिप्लॉय करने के लिए इस्तेमाल किया जाएगा. साथ ही, सैंपल ऐप्लिकेशन को डिप्लॉय या होस्ट करने के लिए भी इसका इस्तेमाल किया जाएगा. इसलिए, पहला चरण Google सेवा खाता (जीएसए) बनाना है. GSA का इस्तेमाल GCE वर्चुअल मशीन करेगी. हमें इसे अन्य सेवाओं के साथ काम करने के लिए ज़रूरी अनुमतियां देनी होंगी.

Cloud Shell में यह कमांड चलाएं:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create compute-aip --project $PROJECT_ID

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudbuild.builds.editor"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/artifactregistry.admin"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/storage.admin"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/run.admin"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/iam.serviceAccountUser"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/alloydb.viewer"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/alloydb.client"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/serviceusage.serviceUsageConsumer"

gcloud projects add-iam-policy-binding $PROJECT_ID \
    --member serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com \
    --role roles/secretmanager.admin

GCE वीएम डिप्लॉय करना

AlloyDB क्लस्टर के लिए, उसी इलाके और वीपीसी में एक GCE वीएम बनाएं.

Cloud Shell में यह कमांड चलाएं:

ZONE=us-central1-a
PROJECT_ID=$(gcloud config get-value project)
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform \
    --service-account=compute-aip@$PROJECT_ID.iam.gserviceaccount.com

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ ZONE=us-central1-a
PROJECT_ID=$(gcloud config get-value project)
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform \
    --service-account=compute-aip@$PROJECT_ID.iam.gserviceaccount.com
Your active configuration is: [cloudshell-10282]
Created [https://www.googleapis.com/compute/v1/projects/gleb-test-short-002-470613/zones/us-central1-a/instances/instance-1].
NAME: instance-1
ZONE: us-central1-a
MACHINE_TYPE: n1-standard-1
PREEMPTIBLE: 
INTERNAL_IP: 10.128.0.2
EXTERNAL_IP: 34.28.55.32
STATUS: RUNNING

Postgres Client इंस्टॉल करना

डिप्लॉय की गई वीएम पर, PostgreSQL क्लाइंट सॉफ़्टवेयर इंस्टॉल करें

वीएम से कनेक्ट करें:

gcloud compute ssh instance-1 --zone=us-central1-a

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Updating project ssh metadata...working..Updated [https://www.googleapis.com/compute/v1/projects/test-project-402417].                                                                                                                                                         
Updating project ssh metadata...done.                                                                                                                                                                                                                                              
Waiting for SSH key to propagate.
Warning: Permanently added 'compute.5110295539541121102' (ECDSA) to the list of known hosts.
Linux instance-1 5.10.0-26-cloud-amd64 #1 SMP Debian 5.10.197-1 (2023-09-29) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$ 

वर्चुअल मशीन में, कमांड चलाने वाला सॉफ़्टवेयर इंस्टॉल करें:

sudo apt-get update
sudo apt-get install --yes postgresql-client

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ sudo apt-get update
sudo apt-get install --yes postgresql-client
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
Get:4 file:/etc/apt/mirrors/debian-security.list Mirrorlist [39 B]
Hit:7 https://packages.cloud.google.com/apt google-compute-engine-bookworm-stable InRelease
Get:8 https://packages.cloud.google.com/apt cloud-sdk-bookworm InRelease [1652 B]
Get:2 https://deb.debian.org/debian bookworm InRelease [151 kB]
Get:3 https://deb.debian.org/debian bookworm-updates InRelease [55.4 kB]
...redacted...
update-alternatives: using /usr/share/postgresql/15/man/man1/psql.1.gz to provide /usr/share/man/man1/psql.1.gz (psql.1.gz) in auto mode
Setting up postgresql-client (15+248) ...
Processing triggers for man-db (2.11.2-2) ...
Processing triggers for libc-bin (2.36-9+deb12u7) ...

AlloyDB इंस्टेंस से कनेक्ट करना

psql का इस्तेमाल करके, वीएम से प्राइमरी इंस्टेंस से कनेक्ट करें.

अपनी वीएम पर खुले हुए एसएसएच सेशन का इस्तेमाल जारी रखें. अगर आपको डिसकनेक्ट कर दिया गया है, तो ऊपर दी गई कमांड का इस्तेमाल करके फिर से कनेक्ट करें.

GCE वीएम से AlloyDB से कनेक्ट करने के लिए, पहले नोट किए गए $PGASSWORD और क्लस्टर के नाम का इस्तेमाल करें:

export PGPASSWORD=<Noted password>
PROJECT_ID=$(gcloud config get-value project)
REGION=us-central1
ADBCLUSTER=alloydb-aip-01
INSTANCE_IP=$(gcloud alloydb instances describe $ADBCLUSTER-pr --cluster=$ADBCLUSTER --region=$REGION --format="value(ipAddress)")
psql "host=$INSTANCE_IP user=postgres sslmode=require"

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ PROJECT_ID=$(gcloud config get-value project)
REGION=us-central1
ADBCLUSTER=alloydb-aip-01
INSTANCE_IP=$(gcloud alloydb instances describe $ADBCLUSTER-pr --cluster=$ADBCLUSTER --region=$REGION --format="value(ipAddress)")
psql "host=$INSTANCE_IP user=postgres sslmode=require"
psql (15.13 (Debian 15.13-0+deb12u1), server 16.8)
WARNING: psql major version 15, server major version 16.
         Some psql features might not work.
SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, compression: off)
Type "help" for help.

postgres=>

एसएसएच कनेक्शन चालू रखते हुए, psql सेशन से बाहर निकलने के लिए:

exit

कंसोल का अनुमानित आउटपुट:

postgres=> exit
student@instance-1:~$ 

6. डेटाबेस शुरू करना

हम अपने क्लाइंट वीएम का इस्तेमाल, डेटाबेस में डेटा भरने और ऐप्लिकेशन को होस्ट करने के लिए करेंगे. पहला चरण, डेटाबेस बनाना और उसमें डेटा डालना है.

डेटाबेस बनाएं

"assistantdemo" नाम का डेटाबेस बनाएं.

GCE वीएम सेशन में यह कमांड चलाएं:

psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"  

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"
CREATE DATABASE
student@instance-1:~$  

Python एनवायरमेंट तैयार करना

आगे बढ़ने के लिए, हम GitHub रिपॉज़िटरी से तैयार की गई Python स्क्रिप्ट का इस्तेमाल करेंगे. हालांकि, इससे पहले हमें ज़रूरी सॉफ़्टवेयर इंस्टॉल करना होगा.

GCE वीएम में यह कमांड चलाएं:

sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip
Reading package lists... Done
Building dependency tree... Done
Reading state information... Done
The following additional packages will be installed:
  git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl
Suggested packages:
  git-daemon-run | git-daemon-sysvinit git-doc git-email git-gui gitk gitweb git-cvs git-mediawiki git-svn ed diffutils-doc
The following NEW packages will be installed:
  git git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl python3.11-venv
0 upgraded, 9 newly installed, 0 to remove and 2 not upgraded.
Need to get 12.4 MB of archives.
After this operation, 52.2 MB of additional disk space will be used.
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
...redacted...
Installing collected packages: pip
  Attempting uninstall: pip
    Found existing installation: pip 23.0.1
    Uninstalling pip-23.0.1:
      Successfully uninstalled pip-23.0.1
Successfully installed pip-24.0
(.venv) student@instance-1:~$

Python के वर्शन की पुष्टि करें.

GCE वीएम में यह कमांड चलाएं:

python -V

कंसोल का अनुमानित आउटपुट:

(.venv) student@instance-1:~$ python -V
Python 3.11.2
(.venv) student@instance-1:~$ 

MCP टूलबॉक्स को स्थानीय तौर पर इंस्टॉल करना

डेटाबेस के लिए MCP टूलबॉक्स (बाद में टेक्स्ट में MCP टूलबॉक्स या टूलबॉक्स) एक ओपन सोर्स MCP सर्वर है. यह अलग-अलग डेटा सोर्स के साथ काम करता है. यह अलग-अलग डेटा सोर्स के लिए ऐब्स्ट्रैक्शन का लेवल उपलब्ध कराता है. साथ ही, पुष्टि करने और कनेक्शन पूलिंग जैसी सुविधाएं जोड़ता है. इससे आपको टूल को तेज़ी से डेवलप करने में मदद मिलती है. सभी सुविधाओं के बारे में जानने के लिए, आधिकारिक पेज पर जाएं.

हम एमसीपी टूलबॉक्स का इस्तेमाल, अपने सैंपल डेटासेट को शुरू करने के लिए करेंगे. बाद में, इसका इस्तेमाल एमसीपी सर्वर के तौर पर किया जाएगा. इससे, रीट्रिवल ऑगमेंटेड जनरेशन (आरएजी) फ़्लो के दौरान, हमारे ऐप्लिकेशन से डेटा सोर्स के अनुरोधों को मैनेज किया जा सकेगा.

assistantdemo डेटाबेस को भरने के लिए, MCP टूलबॉक्स को स्थानीय तौर पर इंस्टॉल करें.

GCE वीएम में यह कमांड चलाएं:

export VERSION=0.16.0
curl -O https://storage.googleapis.com/genai-toolbox/v$VERSION/linux/amd64/toolbox
chmod +x toolbox

कंसोल का अनुमानित आउटपुट:

(.venv) student@instance-1:~$ export VERSION=0.16.0
curl -O https://storage.googleapis.com/genai-toolbox/v$VERSION/linux/amd64/toolbox
chmod +x toolbox
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100  133M  100  133M    0     0   158M      0 --:--:-- --:--:-- --:--:--  158M

डेटा इनिशियलाइज़ेशन के लिए टूलबॉक्स चलाना

GCE वीएम में यह कमांड चलाएं:

डेटाबेस में डेटा भरने के लिए, एनवायरमेंट वैरिएबल एक्सपोर्ट करें:

export ALLOYDB_POSTGRES_PROJECT=$(gcloud config get-value project)
export ALLOYDB_POSTGRES_REGION="us-central1"
export ALLOYDB_POSTGRES_CLUSTER="alloydb-aip-01"
export ALLOYDB_POSTGRES_INSTANCE="alloydb-aip-01-pr"
export ALLOYDB_POSTGRES_DATABASE="assistantdemo"
export ALLOYDB_POSTGRES_USER="postgres"
export ALLOYDB_POSTGRES_PASSWORD=$PGPASSWORD
export ALLOYDB_POSTGRES_IP_TYPE="private"

डेटाबेस शुरू करने के लिए टूलबॉक्स शुरू करें. यह प्रोसेस को स्थानीय तौर पर शुरू करेगा. इससे आपको AlloyDB पर डेस्टिनेशन डेटाबेस से आसानी से कनेक्ट करने में मदद मिलेगी, ताकि उसे सैंपल डेटा से भरा जा सके.

./toolbox --prebuilt alloydb-postgres

कंसोल से मिला अनुमानित आउटपुट. आपको आउटपुट की आखिरी लाइन में यह दिखेगा - "Server ready to serve!":

student@instance-1:~$ cexport ALLOYDB_POSTGRES_PROJECT=$PROJECT_ID
export ALLOYDB_POSTGRES_REGION="us-central1"
export ALLOYDB_POSTGRES_CLUSTER="alloydb-aip-01"
export ALLOYDB_POSTGRES_INSTANCE="alloydb-aip-01-pr"
export ALLOYDB_POSTGRES_DATABASE="assistantdemo"
export ALLOYDB_POSTGRES_USER="postgres"
export ALLOYDB_POSTGRES_PASSWORD=$PGPASSWORD
export ALLOYDB_POSTGRES_IP_TYPE="private"
student@instance-1:~$ ./toolbox --prebuilt alloydb-postgres
2025-09-02T18:30:58.957655886Z INFO "Using prebuilt tool configuration for alloydb-postgres" 
2025-09-02T18:30:59.507306664Z INFO "Initialized 1 sources." 
2025-09-02T18:30:59.50748379Z INFO "Initialized 0 authServices." 
2025-09-02T18:30:59.507618807Z INFO "Initialized 2 tools." 
2025-09-02T18:30:59.507726704Z INFO "Initialized 2 toolsets." 
2025-09-02T18:30:59.508258894Z INFO "Server ready to serve!" 

डेटा पॉप्युलेट होने तक, Cloud Shell के इस टैब को बंद न करें या इससे बाहर न निकलें.

डेटाबेस में डेटा डालना

सबसे ऊपर मौजूद "+" साइन का इस्तेमाल करके, Cloud Shell का कोई दूसरा टैब खोलें.

4ca978f5142bb6ce.png

इसके बाद, instance-1 वीएम से कनेक्ट करें:

gcloud compute ssh instance-1 --zone=us-central1-a

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Linux instance-1 6.1.0-37-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.140-1 (2025-05-22) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
Last login: Tue Sep  2 21:44:07 2025 from 35.229.111.9
student@instance-1:~$ 

डेटा वापस पाने की सेवा और सैंपल ऐप्लिकेशन के कोड के साथ GitHub रिपॉज़िटरी को क्लोन करें.

GCE वीएम में यह कमांड चलाएं:

git clone  https://github.com/GoogleCloudPlatform/cymbal-air-toolbox-demo.git

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ git clone  https://github.com/GoogleCloudPlatform/cymbal-air-toolbox-demo.git
Cloning into 'cymbal-air-toolbox-demo'...
remote: Enumerating objects: 3481, done.
remote: Counting objects: 100% (47/47), done.
remote: Compressing objects: 100% (41/41), done.
remote: Total 3481 (delta 16), reused 7 (delta 5), pack-reused 3434 (from 3)
Receiving objects: 100% (3481/3481), 57.96 MiB | 6.04 MiB/s, done.
Resolving deltas: 100% (2549/2549), done.
student@instance-1:~

अगर आपको कोई गड़बड़ी दिखती है, तो कृपया उस पर ध्यान दें.

Python एनवायरमेंट तैयार करें और ज़रूरी पैकेज इंस्टॉल करें:

source .venv/bin/activate
cd cymbal-air-toolbox-demo
pip install -r requirements.txt

रिपॉज़िटरी के रूट फ़ोल्डर के लिए Python पाथ सेट करें. इसके बाद, डेटाबेस में सैंपल डेटासेट भरने के लिए स्क्रिप्ट चलाएं. पहली कमांड, हमारे Python मॉड्यूल में पाथ को हमारे एनवायरमेंट में जोड़ रही है. वहीं, दूसरी कमांड हमारे डेटाबेस में डेटा भर रही है.

export PYTHONPATH=$HOME/cymbal-air-toolbox-demo
python data/run_database_init.py

कंसोल से मिला अनुमानित आउटपुट(बदला गया). आपको आखिर में "database init done" दिखेगा:

student@instance-1:~$ source .venv/bin/activate
(.venv) student@instance-1:~$ 
(.venv) student@instance-1:~$ cd cymbal-air-toolbox-demo/
(.venv) student@instance-1:~/cymbal-air-toolbox-demo$ pip install -r requirements.txt
python run_database_init.py
Collecting fastapi==0.115.0 (from -r requirements.txt (line 1))
  Downloading fastapi-0.115.0-py3-none-any.whl.metadata (27 kB)
Collecting google-auth==2.40.3 (from -r requirements.txt (line 2))
  Downloading google_auth-2.40.3-py2.py3-none-any.whl.metadata (6.2 kB)
Collecting google-cloud-aiplatform==1.97.0 (from google-cloud-aiplatform[evaluation]==1.97.0->-r requirements.txt (line 3))
  Downloading google_cloud_aiplatform-1.97.0-py2.py3-none-any.whl.metadata (36 kB)
Collecting itsdangerous==2.2.0 (from -r requirements.txt (line 4))
  Downloading itsdangerous-2.2.0-py3-none-any.whl.metadata (1.9 kB)
Collecting jinja2==3.1.5 (from -r requirements.txt (line 5))
  Downloading jinja2-3.1.5-py3-none-any.whl.metadata (2.6 kB)
Collecting langchain-community==0.3.25 (from -r requirements.txt (line 6))
  Downloading langchain_community-0.3.25-py3-none-any.whl.metadata (2.9 kB)
Collecting langchain==0.3.25 (from -r requirements.txt (line 7))
...

(.venv) student@instance-1:~/cymbal-air-toolbox-demo$ 
(.venv) student@instance-1:~/cymbal-air-toolbox-demo$ export PYTHONPATH=$HOME/cymbal-air-toolbox-demo
python data/run_database_init.py
Airports table initialized
Amenities table initialized
Flights table initialized
Tickets table initialized
Policies table initialized
database init done.
(.venv) student@instance-1:~/cymbal-air-toolbox-demo$ 

अब इस टैब को बंद किया जा सकता है.

वीएम सेशन में यह कमांड चलाएं:

exit

इसके बाद, Cloud Shell सेशन में ctrl+d दबाएं या यह कमांड चलाएं :

exit

पहले टैब में, MCP टूलबॉक्स चालू होने पर, ctrl+c दबाकर टूलबॉक्स के चालू सेशन से बाहर निकलें.

डेटाबेस में ऐप्लिकेशन के लिए सैंपल डेटा भर दिया गया है.

डेटाबेस से कनेक्ट करके और एयरपोर्ट टेबल में मौजूद लाइनों की संख्या देखकर, इसकी पुष्टि की जा सकती है. psql यूटिलिटी का इस्तेमाल किया जा सकता है. हमने इसका इस्तेमाल पहले भी किया है. इसके अलावा, AlloyDB Studio का भी इस्तेमाल किया जा सकता है. psql का इस्तेमाल करके, इसे इस तरह से देखा जा सकता है

instance-1 वीएम के एसएसएच सेशन में, यह कमांड चलाएं:

export PGPASSWORD=<Noted AlloyDB password>
REGION=us-central1
ADBCLUSTER=alloydb-aip-01
INSTANCE_IP=$(gcloud alloydb instances describe $ADBCLUSTER-pr --cluster=$ADBCLUSTER --region=$REGION --format="value(ipAddress)")
psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "SELECT COUNT(*) FROM airports"  

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ REGION=us-central1
ADBCLUSTER=alloydb-aip-01
INSTANCE_IP=$(gcloud alloydb instances describe $ADBCLUSTER-pr --cluster=$ADBCLUSTER --region=$REGION --format="value(ipAddress)")
psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "SELECT COUNT(*) FROM airports"
 count 
-------
  7698
(1 row)

डेटाबेस तैयार है और अब हम MCP टूलबॉक्स को डिप्लॉय कर सकते हैं.

7. MCP टूलबॉक्स को Cloud Run पर डिप्लॉय करना

अब हम MCP टूलबॉक्स को Cloud Run पर डिप्लॉय कर सकते हैं. MCP टूलबॉक्स को अलग-अलग तरीकों से डिप्लॉय किया जा सकता है. इसे कमांड लाइन से चलाना सबसे आसान तरीका है. हालांकि, अगर हमें इसे एक भरोसेमंद और बड़े पैमाने पर इस्तेमाल की जा सकने वाली सेवा के तौर पर इस्तेमाल करना है, तो Cloud Run एक बेहतर विकल्प है.

क्लाइंट आईडी तैयार करना

ऐप्लिकेशन की बुकिंग सुविधा का इस्तेमाल करने के लिए, हमें Cloud Console का इस्तेमाल करके OAuth 2.0 क्लाइंट आईडी तैयार करना होगा. इसके बिना, हम Google क्रेडेंशियल का इस्तेमाल करके ऐप्लिकेशन में साइन इन नहीं कर सकते. साथ ही, बुकिंग नहीं कर सकते और बुकिंग को डेटाबेस में रिकॉर्ड नहीं कर सकते.

Cloud Console में, APIs और Services पर जाएं. इसके बाद, "OAuth के लिए सहमति देने की स्क्रीन" पर क्लिक करें. पेज का लिंक यहां दिया गया है. इससे OAuth की खास जानकारी वाला पेज खुलेगा. यहां हम 'शुरू करें' पर क्लिक करते हैं.

2f13a26289362f20.png

अगले पेज पर, हम ऐप्लिकेशन का नाम और उपयोगकर्ता सहायता ईमेल देते हैं. इसके बाद, 'आगे बढ़ें' पर क्लिक करते हैं.

dd3721c042db26ae.png

अगली स्क्रीन पर, हम अपने ऐप्लिकेशन के लिए इंटरनल को चुनते हैं और फिर से 'आगे बढ़ें' पर क्लिक करते हैं.

71b6d11179ed872b.png

इसके बाद, हम फिर से संपर्क ईमेल पता डालते हैं और 'आगे बढ़ें' पर क्लिक करते हैं

8ff29dfd959b41f0.png

इसके बाद, हम Google API की सेवाओं से जुड़ी नीतियों से सहमत होते हैं और 'बनाएं' बटन पर क्लिक करते हैं.

ca87d1200662b7f7.png

इससे हम उस पेज पर पहुंच जाएंगे जहां OAuth क्लाइंट बनाया जा सकता है.

56e5040805632a53.png

स्क्रीन पर, ड्रॉपडाउन मेन्यू से "वेब ऐप्लिकेशन" चुनें. इसके बाद, ऐप्लिकेशन के तौर पर "Cymbal Air" डालें और 'यूआरआई जोड़ें' बटन दबाएं.

4e28c6700426735a.png

यूआरआई, ऐप्लिकेशन के लिए भरोसेमंद सोर्स होते हैं. ये इस बात पर निर्भर करते हैं कि ऐप्लिकेशन को कहां से ऐक्सेस किया जा रहा है. हमने "http://localhost:8081" को अनुमति दिया गया यूआरआई और "http://localhost:8081/login/google" को रीडायरेक्ट यूआरआई के तौर पर सेट किया है. अगर कनेक्शन के लिए यूआरआई के तौर पर ब्राउज़र में "http://localhost:8081" डाला जाता है, तो ये वैल्यू काम करेंगी. उदाहरण के लिए, जब अपने कंप्यूटर से एसएसएच टनल के ज़रिए कनेक्ट किया जाता है. हम आपको बाद में बताएंगे कि ऐसा कैसे किया जा सकता है.

9dc25f2d318097e2.png

"बनाएं" बटन दबाने के बाद, आपको एक पॉप-अप विंडो दिखेगी. इसमें आपके क्लाइंट के क्रेडेंशियल होंगे. साथ ही, क्रेडेंशियल सिस्टम में रिकॉर्ड किए जाएंगे. ऐप्लिकेशन शुरू करते समय, इस्तेमाल करने के लिए क्लाइंट आईडी को हमेशा कॉपी किया जा सकता है.

f5a7b6ad0858d95c.png

बाद में आपको दिखेगा कि क्लाइंट आईडी कहां देना है.

सेवा खाता बनाएं

हमें Cloud Run सेवा के लिए, सभी ज़रूरी अनुमतियों वाला एक सेवा खाता चाहिए. हमारी सेवा के लिए, हमें AlloyDB और Cloud Secret Manager का ऐक्सेस चाहिए. हम टूलबॉक्स-आइडेंटिटी का इस्तेमाल करने वाले सेवा खाते के लिए नाम तय करेंगे.

सबसे ऊपर मौजूद "+" साइन का इस्तेमाल करके, Cloud Shell का कोई दूसरा टैब खोलें.

4ca978f5142bb6ce.png

नए क्लाउड शेल टैब में यह कमांड चलाएं:

export PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create toolbox-identity

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:toolbox-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/alloydb.client"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:toolbox-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/serviceusage.serviceUsageConsumer"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:toolbox-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/secretmanager.secretAccessor"

अगर आपको कोई गड़बड़ी दिखती है, तो कृपया उस पर ध्यान दें. इस कमांड का इस्तेमाल, Cloud Run सेवा के लिए सेवा खाता बनाने के लिए किया जाता है. साथ ही, Secret Manager, डेटाबेस, और Vertex AI के साथ काम करने के लिए अनुमतियां दी जाती हैं.

ctrl+d दबाकर या टैब में "exit" कमांड चलाकर टैब बंद करें:

exit

MCP टूलबॉक्स कॉन्फ़िगरेशन तैयार करना

MCP टूलबॉक्स के लिए कॉन्फ़िगरेशन फ़ाइल तैयार करें. दस्तावेज़ में, कॉन्फ़िगरेशन के सभी विकल्पों के बारे में पढ़ा जा सकता है. हालांकि, यहां हम sample tools.yaml फ़ाइल का इस्तेमाल करेंगे. साथ ही, क्लस्टर और इंस्टेंस का नाम, AlloyDB का पासवर्ड, और प्रोजेक्ट आईडी जैसी कुछ वैल्यू को अपनी असल वैल्यू से बदलेंगे.

AlloyDB का पासवर्ड एक्सपोर्ट करें:

export PGPASSWORD=<noted AlloyDB password>

पिछले चरण में तैयार किया गया क्लाइंट आईडी एक्सपोर्ट करें:

export CLIENT_ID=<noted OAuth 2.0 client ID for our application>

कॉन्फ़िगरेशन फ़ाइल तैयार करें.

PROJECT_ID=$(gcloud config get-value project)
ADBCLUSTER=alloydb-aip-01
sed -e "s/project: retrieval-app-testing/project: $(gcloud config get-value project)/g" \
-e "s/cluster: my-alloydb-cluster/cluster: $ADBCLUSTER/g" \
-e "s/instance: my-alloydb-instance/instance: $ADBCLUSTER-pr/g" \
-e "s/password: postgres/password: $PGPASSWORD\\n    ipType: private/g" \
-e "s/^ *clientId: .*/    clientId: $CLIENT_ID/g" \
cymbal-air-toolbox-demo/tools.yaml >~/tools.yaml

अगर टारगेट डेटा सोर्स को तय करने वाले फ़ाइल सेक्शन में देखा जाए, तो आपको दिखेगा कि हमने कनेक्शन के लिए प्राइवेट आईपी का इस्तेमाल करने के लिए भी एक लाइन जोड़ी है.

sources:
  my-pg-instance:
    kind: alloydb-postgres
    project: gleb-test-short-003-471020
    region: us-central1
    cluster: alloydb-aip-01
    instance: alloydb-aip-01-pr
    database: assistantdemo
    user: postgres
    password: L23F...
    ipType: private
authServices:
  my_google_service:
    kind: google
    clientId: 96828*******-***********.apps.googleusercontent.com

tools.yaml कॉन्फ़िगरेशन को सोर्स के तौर पर इस्तेमाल करके, सीक्रेट बनाएं.

वीएम एसएसएच कंसोल में यह कमांड चलाएं:

gcloud secrets create tools --data-file=tools.yaml

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ gcloud secrets create tools --data-file=tools.yaml
Created version [1] of the secret [tools].

MCP टूलबॉक्स को Cloud Run सेवा के तौर पर डिप्लॉय करना

अब MCP टूलबॉक्स को Cloud Run पर सेवा के तौर पर डिप्लॉय करने के लिए, सब कुछ तैयार है. लोकल टेस्टिंग के लिए, "./toolbox –tools-file=./tools.yaml" कमांड का इस्तेमाल किया जा सकता है. हालांकि, अगर हमें अपने ऐप्लिकेशन को क्लाउड में चलाना है, तो Cloud Run में डिप्लॉय करना ज़्यादा सही रहेगा.

वीएम के एसएसएच सेशन में यह कमांड चलाएं:

export IMAGE=us-central1-docker.pkg.dev/database-toolbox/toolbox/toolbox:latest
gcloud run deploy toolbox \
    --image $IMAGE \
    --service-account toolbox-identity \
    --region us-central1 \
    --set-secrets "/app/tools.yaml=tools:latest" \
    --args="--tools-file=/app/tools.yaml","--address=0.0.0.0","--port=8080" \
    --network default \
    --subnet default \
    --no-allow-unauthenticated

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ export IMAGE=us-central1-docker.pkg.dev/database-toolbox/toolbox/toolbox:latest
gcloud run deploy toolbox \
    --image $IMAGE \
    --service-account toolbox-identity \
    --region us-central1 \
    --set-secrets "/app/tools.yaml=tools:latest" \
    --args="--tools-file=/app/tools.yaml","--address=0.0.0.0","--port=8080" \
    --network default \
    --subnet default \
    --no-allow-unauthenticated
Deploying container to Cloud Run service [toolbox] in project [gleb-test-short-002-470613] region [us-central1]
✓ Deploying new service... Done.                                                                                                                                                                                                
  ✓ Creating Revision...                                                                                                                                                                                                        
  ✓ Routing traffic...                                                                                                                                                                                                          
Done.                                                                                                                                                                                                                           
Service [toolbox] revision [toolbox-00001-l9c] has been deployed and is serving 100 percent of traffic.
Service URL: https://toolbox-868691532292.us-central1.run.app

student@instance-1:~$

सेवा की पुष्टि करना

अब हम यह देख सकते हैं कि सेवा चालू है या नहीं और हम एंडपॉइंट को ऐक्सेस कर सकते हैं या नहीं. हम gcloud यूटिलिटी का इस्तेमाल, डेटा वापस पाने की सेवा के एंडपॉइंट और पुष्टि करने वाले टोकन को पाने के लिए करते हैं. इसके अलावा, Cloud Console में सेवा का यूआरआई देखा जा सकता है.

dd1a16ee00a861a0.png

वैल्यू को कॉपी करें और कर्ल कमांड में "$(gcloud run services list –filter="(toolbox)" –format="value(URL)" वाले हिस्से को बदलें .

कमांड लाइन से यूआरएल को डाइनैमिक तरीके से पाने का तरीका यहां बताया गया है:

curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(toolbox)" --format="value(URL)")

कंसोल का अनुमानित आउटपुट:

student@instance-1:~$ curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(toolbox)" --format="value(URL)")
🧰 Hello, World! 🧰student@instance-1:~$

अगर हमें "Hello World" मैसेज दिखता है, तो इसका मतलब है कि हमारी सेवा चालू है और अनुरोधों को पूरा कर रही है.

8. सैंपल ऐप्लिकेशन डिप्लॉय करना

अब जब डेटा वापस पाने की सेवा चालू हो गई है, तब हम एक सैंपल ऐप्लिकेशन डिप्लॉय कर सकते हैं. यह ऐप्लिकेशन, एयरपोर्ट पर मौजूद ऑनलाइन असिस्टेंट की तरह काम करता है. यह आपको फ़्लाइट और एयरपोर्ट के बारे में जानकारी दे सकता है. साथ ही, हमारे डेटाबेस में मौजूद फ़्लाइट और एयरपोर्ट के डेटा के आधार पर, फ़्लाइट बुक भी कर सकता है.

ऐप्लिकेशन को स्थानीय तौर पर, क्लाउड में मौजूद वीएम या Cloud Run या Kubernetes जैसी किसी अन्य सेवा पर डिप्लॉय किया जा सकता है. यहां हम आपको बताएंगे कि इसे सबसे पहले वीएम पर कैसे डिप्लॉय किया जाता है.

एनवायरमेंट तैयार करना

हम उसी एसएसएच सेशन का इस्तेमाल करके, अपने वीएम पर काम करना जारी रखते हैं. अपने ऐप्लिकेशन को चलाने के लिए, हमें कुछ Python मॉड्यूल की ज़रूरत होती है. हमने उन्हें पहले ही जोड़ दिया था, जब हमने पहले अपना डेटाबेस शुरू किया था. आइए, हम अपने Python वर्चुअल एनवायरमेंट पर स्विच करें और अपनी जगह को ऐप्लिकेशन डायरेक्ट्री में बदलें.

वीएम के एसएसएच सेशन में यह कमांड चलाएं:

source ~/.venv/bin/activate
cd cymbal-air-toolbox-demo

अनुमानित आउटपुट (बदला गया):

student@instance-1:~$ source ~/.venv/bin/activate
cd cymbal-air-toolbox-demo
(.venv) student@instance-1:~/cymbal-air-toolbox-demo$

Assistant ऐप्लिकेशन चलाएं

आवेदन शुरू करने से पहले, हमें कुछ एनवायरमेंट वैरिएबल सेट अप करने होंगे. ऐप्लिकेशन के बुनियादी फ़ंक्शन, जैसे कि फ़्लाइट और एयरपोर्ट की सुविधाओं के बारे में क्वेरी करने के लिए, सिर्फ़ TOOLBOX_URL की ज़रूरत होती है. यह ऐप्लिकेशन को डेटा वापस पाने की सेवा की ओर ले जाता है. इसे gcloud कमांड का इस्तेमाल करके पाया जा सकता है .

वीएम के एसएसएच सेशन में यह कमांड चलाएं:

export TOOLBOX_URL=$(gcloud  run services list --filter="(toolbox)" --format="value(URL)")

अनुमानित आउटपुट (बदला गया):

student@instance-1:~/cymbal-air-toolbox-demo$ export BASE_URL=$(gcloud  run services list --filter="(toolbox)" --format="value(URL)")

ऐप्लिकेशन की ज़्यादा बेहतर सुविधाओं का इस्तेमाल करने के लिए, हमें अपने Google खाते से ऐप्लिकेशन में साइन इन करना होगा. जैसे, फ़्लाइट बुक करना और फ़्लाइट बदलना. इसके लिए, हमें Prepare Client ID चैप्टर में दिए गए OAuth क्लाइंट आईडी का इस्तेमाल करके, CLIENT_ID एनवायरमेंट वैरिएबल देना होगा:

export CLIENT_ID=215....apps.googleusercontent.com

अनुमानित आउटपुट (बदला गया):

student@instance-1:~/cymbal-air-toolbox-demo$ export CLIENT_ID=215....apps.googleusercontent.com

अब हम अपना ऐप्लिकेशन चला सकते हैं:

python run_app.py

अनुमानित आउटपुट:

student@instance-1:~/cymbal-air-toolbox-demo/llm_demo$ python run_app.py
INFO:     Started server process [2900]
INFO:     Waiting for application startup.
Loading application...
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8081 (Press CTRL+C to quit)

ऐप्लिकेशन से कनेक्ट करना

वीएम पर चल रहे ऐप्लिकेशन से कनेक्ट करने के कई तरीके हैं. उदाहरण के लिए, वीपीसी में फ़ायरवॉल के नियमों का इस्तेमाल करके, वीएम पर पोर्ट 8081 खोला जा सकता है. इसके अलावा, सार्वजनिक आईपी वाला लोड बैलेंसर बनाया जा सकता है. यहां हम वीएम के लिए एसएसएच टनल का इस्तेमाल करेंगे. इससे लोकल पोर्ट 8080 को वीएम पोर्ट 8081 में ट्रांसलेट किया जा सकेगा.

लोकल मशीन से कनेक्ट करना

जब हमें किसी लोकल मशीन से कनेक्ट करना होता है, तब हमें एसएसएच टनल चलाना होता है. इसके लिए, gcloud compute ssh का इस्तेमाल किया जा सकता है:

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8081:localhost:8081

अनुमानित आउटपुट:

student-macbookpro:~ student$ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
Warning: Permanently added 'compute.7064281075337367021' (ED25519) to the list of known hosts.
Linux instance-1.us-central1-c.c.gleb-test-001.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$

अब हम ब्राउज़र खोल सकते हैं और अपने ऐप्लिकेशन से कनेक्ट करने के लिए, http://localhost:8081 का इस्तेमाल कर सकते हैं. हमें आवेदन करने की स्क्रीन दिखनी चाहिए.

c667b9013afac3f9.png

Cloud Shell से कनेक्ट करना

इसके अलावा, कनेक्ट करने के लिए Google Cloud Shell का इस्तेमाल किया जा सकता है. सबसे ऊपर मौजूद "+" साइन का इस्तेमाल करके, Cloud Shell का कोई दूसरा टैब खोलें.

4ca978f5142bb6ce.png

नई टैब में, gcloud कमांड को लागू करने वाले वेब क्लाइंट के लिए, ऑरिजिन और रीडायरेक्ट यूआरआई पाएं:

echo "origin:"; echo "https://8080-$WEB_HOST"; echo "redirect:"; echo "https://8080-$WEB_HOST/login/google"

अनुमानित आउटपुट यहां दिया गया है:

student@cloudshell:~ echo "origin:"; echo "https://8080-$WEB_HOST"; echo "redirect:"; echo "https://8080-$WEB_HOST/login/google"
origin:
https://8080-cs-35704030349-default.cs-us-east1-rtep.cloudshell.dev
redirect:
https://8080-cs-35704030349-default.cs-us-east1-rtep.cloudshell.dev/login/google

साथ ही, "क्लाइंट आईडी तैयार करें" चैप्टर में बनाए गए हमारे क्रेडेंशियल के लिए, यूआरआई के ऑरिजिन और रीडायरेक्ट का इस्तेमाल"अनुमति वाले JavaScript ऑरिजिन" और "अनुमति वाले रीडायरेक्ट यूआरआई" के तौर पर करें. इसके लिए, मूल रूप से दी गई http://localhost:8080 वैल्यू को बदलें या उसमें जोड़ें.

OAuth 2.0 क्लाइंट आईडी पेज पर, "Cymbal Air" पर क्लिक करें.

b4c1430329886d9c.png

Cloud Shell के लिए, ऑरिजिन और रीडायरेक्ट यूआरआई डालें. इसके बाद, 'सेव करें' बटन दबाएं.

5651bdd6d0d1c88.png

नई क्लाउड शेल टैब में, gcloud कमांड को लागू करके अपनी वीएम मशीन से टनल शुरू करें:

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081

अगर आपको "अनुरोध किया गया पता असाइन नहीं किया जा सकता" गड़बड़ी का मैसेज दिखता है, तो कृपया इसे अनदेखा करें.

अनुमानित आउटपुट यहां दिया गया है:

student@cloudshell:~ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
bind [::1]:8081: Cannot assign requested address
inux instance-1.us-central1-a.c.gleb-codelive-01.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
Last login: Sat May 25 19:15:46 2024 from 35.243.235.73
student@instance-1:~$

इससे आपके क्लाउड शेल पर पोर्ट 8080 खुल जाता है. इसका इस्तेमाल "वेब प्रीव्यू" के लिए किया जा सकता है.

Cloud Shell के सबसे ऊपर दाईं ओर मौजूद "वेब प्रीव्यू" बटन पर क्लिक करें. इसके बाद, ड्रॉप-डाउन मेन्यू से "पोर्ट 8080 पर प्रीव्यू करें" चुनें

444fbf54dcd4d160.png

इससे आपके वेब ब्राउज़र में एक नया टैब खुलता है. इसमें ऐप्लिकेशन का इंटरफ़ेस दिखता है. आपको "Cymbal Air Customer Service Assistant" पेज दिखेगा.

389f0ae2945beed5.png

ऐप्लिकेशन में साइन इन करना

सब कुछ सेट अप हो जाने और ऐप्लिकेशन खुल जाने के बाद, हम अपने क्रेडेंशियल देने के लिए, ऐप्लिकेशन की स्क्रीन पर सबसे ऊपर दाईं ओर मौजूद "साइन इन करें" बटन का इस्तेमाल कर सकते हैं. यह ज़रूरी नहीं है. इसकी ज़रूरत सिर्फ़ तब होती है, जब आपको ऐप्लिकेशन की बुकिंग की सुविधा आज़मानी हो.

a1f571371b957129.png

इससे एक पॉप-अप विंडो खुलेगी. इसमें हम अपने क्रेडेंशियल चुन सकते हैं.

साइन इन करने के बाद, ऐप्लिकेशन इस्तेमाल के लिए तैयार हो जाता है. इसके बाद, विंडो में सबसे नीचे मौजूद फ़ील्ड में अपने अनुरोध पोस्ट किए जा सकते हैं.

इस डेमो में, Cymbal Air के ग्राहक सेवा असिस्टेंट को दिखाया गया है. Cymbal Air, यात्रियों को हवाई यात्रा कराने वाली एक काल्पनिक एयरलाइन है. यह असिस्टेंट, एआई चैटबॉट है. यह यात्रियों को फ़्लाइट मैनेज करने में मदद करता है. साथ ही, सैन फ़्रांसिस्को अंतरराष्ट्रीय हवाई अड्डे (एसएफ़ओ) पर Cymbal Air के हब के बारे में जानकारी ढूंढने में मदद करता है.

साइन इन किए बिना (CLIENT_ID के बिना), यह उपयोगकर्ताओं के सवालों के जवाब देने में मदद कर सकता है. जैसे:

डेनवर के लिए अगली फ़्लाइट कब है?

क्या गेट C28 के आस-पास कोई लग्ज़री शॉप है?

मुझे गेट A6 के पास कॉफ़ी कहां मिल सकती है?

मुझे उपहार कहाँ से मिल सकता है?

कृपया आज सैन फ़्रांसिस्को से डेनवर जाने वाली फ़्लाइट खोजें

ऐप्लिकेशन में साइन इन करने के बाद, अन्य सुविधाएं आज़माई जा सकती हैं. जैसे, फ़्लाइट बुक करना या यह देखना कि आपको जो सीट मिली है वह विंडो सीट है या आइल सीट.

6e7758f707c67c3e.png

यह ऐप्लिकेशन, जवाब जनरेट करने के लिए Google के नए फ़ाउंडेशन मॉडल का इस्तेमाल करता है. साथ ही, AlloyDB के चालू डेटाबेस से फ़्लाइट और सुविधाओं के बारे में जानकारी लेकर, जवाब को बेहतर बनाता है. इस डेमो ऐप्लिकेशन के बारे में ज़्यादा जानने के लिए, प्रोजेक्ट के Github पेज पर जाएं.

9. एनवायरमेंट को साफ़ करना

अब सभी टास्क पूरे होने के बाद, हम अपने एनवायरमेंट को साफ़ कर सकते हैं

Cloud Run सेवा मिटाना

Cloud Shell में यह कमांड चलाएं:

gcloud run services delete toolbox --region us-central1

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-004)$ gcloud run services delete retrieval-service --region us-central1
Service [retrieval-service] will be deleted.

Do you want to continue (Y/n)?  Y

Deleting [retrieval-service]...done.                                                                                                                                                                                                                 
Deleted service [retrieval-service].

Cloud Run सेवा के लिए सेवा खाता मिटाना

Cloud Shell में यह कमांड चलाएं:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete toolbox-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
Your active configuration is: [cloudshell-222]
student@cloudshell:~ (gleb-test-short-004)$ gcloud iam service-accounts delete retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet
deleted service account [retrieval-identity@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$

लैब का काम पूरा हो जाने के बाद, AlloyDB इंस्टेंस और क्लस्टर को मिटा दें.

AlloyDB क्लस्टर और सभी इंस्टेंस मिटाना

अगर आपने AlloyDB का मुफ़्त में आज़माने की सुविधा वाला वर्शन इस्तेमाल किया है. अगर आपको ट्रायल क्लस्टर का इस्तेमाल करके अन्य लैब और संसाधनों की जांच करनी है, तो ट्रायल क्लस्टर को न मिटाएं. आपके पास एक ही प्रोजेक्ट में दूसरा ट्रायल क्लस्टर बनाने का विकल्प नहीं होगा.

फ़ोर्स विकल्प का इस्तेमाल करके क्लस्टर को डिस्ट्रॉय किया जाता है. इससे क्लस्टर से जुड़े सभी इंस्टेंस भी मिट जाते हैं.

अगर आपका कनेक्शन बंद हो गया है और पिछली सभी सेटिंग मिट गई हैं, तो क्लाउड शेल में प्रोजेक्ट और एनवायरमेंट वैरिएबल तय करें:

gcloud config set project <your project id>
export REGION=us-central1
export ADBCLUSTER=alloydb-aip-01
export PROJECT_ID=$(gcloud config get-value project)

क्लस्टर मिटाने के लिए:

gcloud alloydb clusters delete $ADBCLUSTER --region=$REGION --force

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-001-402417)$ gcloud alloydb clusters delete $ADBCLUSTER --region=$REGION --force
All of the cluster data will be lost when the cluster is deleted.

Do you want to continue (Y/n)?  Y

Operation ID: operation-1697820178429-6082890a0b570-4a72f7e4-4c5df36f
Deleting cluster...done.   

AlloyDB के बैकअप मिटाना

क्लस्टर के सभी AlloyDB बैकअप मिटाने के लिए:

for i in $(gcloud alloydb backups list --filter="CLUSTER_NAME: projects/$PROJECT_ID/locations/$REGION/clusters/$ADBCLUSTER" --format="value(name)" --sort-by=~createTime) ; do gcloud alloydb backups delete $(basename $i) --region $REGION --quiet; done

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-001-402417)$ for i in $(gcloud alloydb backups list --filter="CLUSTER_NAME: projects/$PROJECT_ID/locations/$REGION/clusters/$ADBCLUSTER" --format="value(name)" --sort-by=~createTime) ; do gcloud alloydb backups delete $(basename $i) --region $REGION --quiet; done
Operation ID: operation-1697826266108-60829fb7b5258-7f99dc0b-99f3c35f
Deleting backup...done.                                                                                                                                                                                                                                                            

अब हम अपने वीएम को डिस्ट्रॉय कर सकते हैं

GCE वीएम मिटाएं

Cloud Shell में यह कमांड चलाएं:

export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (test-project-001-402417)$ export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet
Deleted 

GCE वीएम और डेटा वापस पाने की सेवा के लिए, सेवा खाता मिटाएं

Cloud Shell में यह कमांड चलाएं:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet

कंसोल का अनुमानित आउटपुट:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet
Your active configuration is: [cloudshell-222]
deleted service account [compute-aip@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$ 

10. बधाई हो

कोडलैब पूरा करने के लिए बधाई.

हमने क्या-क्या बताया

  • AlloyDB क्लस्टर को डिप्लॉय करने का तरीका
  • AlloyDB से कनेक्ट करने का तरीका
  • MCP टूलबॉक्स सेवा को कॉन्फ़िगर और डिप्लॉय करने का तरीका
  • डिप्लॉय की गई सेवा का इस्तेमाल करके, सैंपल ऐप्लिकेशन को डिप्लॉय करने का तरीका

11. सर्वे

आउटपुट:

इस ट्यूटोरियल का इस्तेमाल कैसे किया जाएगा?

सिर्फ़ इसे पढ़ें इसे पढ़ें और एक्सरसाइज़ पूरी करें