Cloud Run पर PaLM API की मदद से चैट ऐप्लिकेशन

1. परिचय

इस कोडलैब से आपको वेब ऐप्लिकेशन पर, एआई पर आधारित चैट ऐप्लिकेशन को बनाने और डिप्लॉय करने का तरीका पता चलता है. यह ऐप्लिकेशन, Google Cloud में Cloud Run सेवा के तौर पर काम करता है. यह चैट ऐप्लिकेशन, लोगों को Chat बाइसन मॉडल ( text-chat) के लिए PaLM का इस्तेमाल करके क्वेरी करने और जवाब पाने की सुविधा देता है.

आपको क्या बनाना होगा

आपको यह बनाना होगा

  • ऐप्लिकेशन चलाने के लिए, Google Cloud में उपलब्ध एनवायरमेंट
  • ऐप्लिकेशन के लिए डॉकर इमेज
  • ऐप्लिकेशन को चलाने वाली Cloud Run सेवा

2. ज़रूरी शर्तें

  • Chrome या Firefox जैसा ब्राउज़र
  • आपके पास ऐसा Google Cloud प्रोजेक्ट होना चाहिए जिसमें बिलिंग की सुविधा चालू हो

3. शुरू करने से पहले

  1. Google Cloud Console में, प्रोजेक्ट चुनने वाले पेज पर, Google Cloud प्रोजेक्ट चुनें या बनाएं
  2. पक्का करें कि आपके Google Cloud प्रोजेक्ट के लिए बिलिंग की सुविधा चालू हो. किसी प्रोजेक्ट के लिए बिलिंग की सुविधा चालू है या नहीं, यह देखने का तरीका जानें
  3. यहां दिए गए निर्देशों का पालन करके, Google Cloud Console से Cloud Shell को चालू करें
  4. अगर आपका प्रोजेक्ट सेट नहीं है, तो इसे सेट करने के लिए नीचे दिए गए कमांड का इस्तेमाल करें:
gcloud config set project <YOUR_PROJECT_ID>
  1. Cloud Shell में, ये एनवायरमेंट वैरिएबल सेट करें:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Cloud Shell टर्मिनल में नीचे दिए गए निर्देशों का पालन करके, ज़रूरी Google Cloud API चालू करें:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. अपना एनवायरमेंट सेट अप करें

  1. सैंपल कोड को अपने प्रोजेक्ट में कॉपी करने के लिए, Cloud Shell में रिपॉज़िटरी का क्लोन बनाएं:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. यह निर्देश, रेपो कॉन्टेंट का क्लोन genai-templates-googlecloud फ़ोल्डर में ले जाएगा.
  2. Cloud Shell टर्मिनल से नीचे दिए गए निर्देश को लागू करके, उस प्रोजेक्ट के फ़ोल्डर पर जाएं जिसमें हम आपका ध्यान रखना चाहते हैं:
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
  1. Vertex AI को शुरू करने के लिए, यहां दिए गए एनवायरमेंट वैरिएबल सेट करें:

GCP_PROJECT : आपका Google Cloud प्रोजेक्ट आईडी. उदाहरण के लिए: my_project.

GCP_क्षेत्र : वह क्षेत्र जहां आप अपना Cloud फ़ंक्शन डिप्लॉय करना चाहते हैं. उदाहरण के लिए: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. डॉकर इमेज बनाएं

ऐप्लिकेशन के लिए Docker इमेज बनाने और उसे Artifact Registry में भेजने के लिए, ये काम करें:

  1. Artifact Registry का डेटा स्टोर करने की जगह के लिए एनवायरमेंट वैरिएबल सेट करना. नामों में सिर्फ़ अंग्रेज़ी के छोटे अक्षर, संख्याएं, और हाइफ़न शामिल हो सकते हैं. ये अक्षर या अंक से शुरू होने चाहिए और नंबर पर खत्म होने चाहिए. उदाहरण के लिए: my-chat-app-repo.
export AR_REPO='my-chat-app-repo'
  1. अपनी सेवा के नाम के लिए, एनवायरमेंट वैरिएबल सेट करें. उदाहरण के लिए: chat-flask-app.
export SERVICE_NAME='chat-flask-app'
  1. Docker फ़ॉर्मैट में, डेटा स्टोर करने की जगह बनाएं.
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
  1. डॉकर की पुष्टि करने की सुविधा कॉन्फ़िगर करें.
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
  1. इमेज बनाएं.
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
  1. यह पुष्टि करने के लिए कि इमेज को Artifact Registry में पुश किया गया है या नहीं, Artifact Registry के पेज पर जाएं. वह डेटा स्टोर करें जिसे आपने इस पेज पर बनाया है.

6. ऐप्लिकेशन को डिप्लॉय करना

  1. ऐप्लिकेशन को Cloud Run पर सेवा के तौर पर डिप्लॉय करें.
gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

इस चरण को पूरा होने में कुछ सेकंड लग सकते हैं.

  1. चैट ऐप्लिकेशन को लॉन्च करने के लिए, सेवा के यूआरएल पर क्लिक करें.

56c06b62e0ac95bf.png

चैट ऐप्लिकेशन नए टैब में खुलता है, जैसा कि नीचे दिए गए स्क्रीनशॉट में दिखाया गया है:

eebde9c35c171563.png

7. व्यवस्थित करें

इस पोस्ट में इस्तेमाल किए गए संसाधनों के लिए, आपके Google Cloud खाते पर शुल्क न लगे, इसके लिए यह तरीका अपनाएं:

  1. Google Cloud Console में, संसाधन मैनेज करें पेज पर जाएं.
  2. प्रोजेक्ट की सूची में, वह प्रोजेक्ट चुनें जिसे मिटाना है. इसके बाद, मिटाएं पर क्लिक करें.
  3. डायलॉग बॉक्स में, प्रोजेक्ट आईडी लिखें और फिर प्रोजेक्ट मिटाने के लिए शट डाउन करें पर क्लिक करें.
  4. अगर आपको अपना प्रोजेक्ट बनाए रखना है, तो ऊपर दिया गया तरीका न अपनाएं. Cloud Run पर जाकर, Cloud Run सेवा को मिटाएं. इसके बाद, सेवाओं की सूची में उस सेवा को चुनें जिसे मिटाना है. इसके बाद, 'मिटाएं' पर क्लिक करें.

8. बधाई हो

बधाई हो! आपने वेब ऐप्लिकेशन के लिए, एआई पर आधारित चैट ऐप्लिकेशन को Google Cloud पर Cloud Run सेवा के तौर पर बनाया और डिप्लॉय किया है. इस चैट ऐप्लिकेशन का इस्तेमाल करके, उपयोगकर्ताओं को अपनी क्वेरी डालने की अनुमति दी जा सकती है. यह ऐप्लिकेशन, Vertex AI चैट मॉडल को शुरू करके जवाब देगा.