Cloud Run पर PaLM API की मदद से चैट ऐप्लिकेशन

1. परिचय

इस कोडलैब में, Google Cloud पर Cloud Run सेवा के तौर पर, वेब ऐप्लिकेशन पर एआई पर आधारित चैट ऐप्लिकेशन बनाने और उसे डिप्लॉय करने का तरीका बताया गया है. यह चैट ऐप्लिकेशन, उपयोगकर्ताओं को PaLM for Chat Bison मॉडल ( text-chat) का इस्तेमाल करके सवाल पूछने और जवाब पाने की सुविधा देता है.

आपको क्या बनाना है

आपको

• ऐप्लिकेशन को चलाने के लिए, Google Cloud में एक एनवायरमेंट
• ऐप्लिकेशन के लिए Docker इमेज
• ऐप्लिकेशन को चलाने वाली Cloud Run सेवा

2. ज़रूरी शर्तें

• कोई ब्राउज़र, जैसे कि Chrome या Firefox
• बिलिंग की सुविधा वाला Google Cloud प्रोजेक्ट

3. शुरू करने से पहले

1. Google Cloud Console में, प्रोजेक्ट चुनने वाले पेज पर जाकर, Google Cloud प्रोजेक्ट चुनें या बनाएं
2. पक्का करें कि आपके Google Cloud प्रोजेक्ट के लिए बिलिंग चालू हो. किसी प्रोजेक्ट के लिए बिलिंग चालू है या नहीं, यह देखने का तरीका जानें
3. यहां दिए गए निर्देशों का पालन करके, Google Cloud Console से Cloud Shell चालू करें
4. अगर आपका प्रोजेक्ट सेट नहीं है, तो इसे सेट करने के लिए इस निर्देश का इस्तेमाल करें:

gcloud config set project <YOUR_PROJECT_ID>

5. Cloud Shell में, ये एनवायरमेंट वैरिएबल सेट करें:

export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1

6. Cloud Shell टर्मिनल में यहां दिए गए निर्देशों को चलाकर, ज़रूरी Google Cloud API चालू करें:

gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. अपना एनवायरमेंट सेट अप करने का तरीका

1. अपने प्रोजेक्ट में सैंपल कोड कॉपी करने के लिए, Cloud Shell में डेटाबेस को क्लोन करें:

git clone https://github.com/rominirani/genai-apptemplates-googlecloud

2. इस कमांड से, repo का कॉन्टेंट genai-templates-googlecloud फ़ोल्डर में क्लोन हो जाएगा.
3. Cloud Shell टर्मिनल में यह कमांड चलाकर, उस प्रोजेक्ट के फ़ोल्डर पर जाएं जिसके बारे में हमें जानकारी चाहिए:

cd genai-apptemplates-googlecloud/chat-flask-cloudrun

4. Vertex AI को शुरू करने के लिए, यहां दिए गए एनवायरमेंट वैरिएबल सेट करें:

GCP_PROJECT : यह आपके Google Cloud प्रोजेक्ट का आईडी है. उदाहरण के लिए: my_project.

GCP_REGION : वह इलाका जहां आपको Cloud Functions को डिप्लॉय करना है. उदाहरण के लिए: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. डॉकर इमेज बनाना

ऐप्लिकेशन के लिए Docker इमेज बनाने और उसे Artifact Registry में पुश करने के लिए, यह तरीका अपनाएं:

1. Artifact Registry के डेटा स्टोर करने की जगह के लिए, एनवायरमेंट वैरिएबल सेट करें. नामों में सिर्फ़ अंग्रेज़ी के छोटे अक्षर, संख्याएं, और हाइफ़न इस्तेमाल किए जा सकते हैं. साथ ही, नाम की शुरुआत किसी अक्षर से होनी चाहिए और इसका आखिरी वर्ण कोई अक्षर या संख्या होनी चाहिए. उदाहरण के लिए: my-chat-app-repo.

export AR_REPO='my-chat-app-repo'

2. अपनी सेवा के नाम के लिए एनवायरमेंट वैरिएबल सेट करें. उदाहरण के लिए: chat-flask-app.

export SERVICE_NAME='chat-flask-app'

3. Docker फ़ॉर्मैट में अपना डेटाबेस बनाएं.

gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker

4. Docker की पुष्टि करने की सुविधा कॉन्फ़िगर करें.

gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"

5. इमेज बनाना.

gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"

5. यह पुष्टि करने के लिए कि इमेज को Artifact Registry में पुश किया गया है, Artifact Registry पेज पर जाएं. इस पेज पर, अपनी बनाई गई रिपॉज़िटरी ढूंढें.

6. ऐप्लिकेशन डिप्लॉय करना

1. ऐप्लिकेशन को Cloud Run पर सेवा के तौर पर डिप्लॉय करें.

gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

इस चरण को पूरा होने में कुछ सेकंड लग सकते हैं.

2. चैट ऐप्लिकेशन लॉन्च करने के लिए, सेवा के यूआरएल पर क्लिक करें.

चैट ऐप्लिकेशन, नए टैब में खुलता है. इसे यहां दिए गए स्क्रीनशॉट में दिखाया गया है:

7. व्यवस्थित करें

इस पोस्ट में इस्तेमाल की गई संसाधनों के लिए, अपने Google Cloud खाते से शुल्क न लिए जाने के लिए, यह तरीका अपनाएं:

1. Google Cloud Console में, संसाधन मैनेज करें पेज पर जाएं.
2. प्रोजेक्ट की सूची में, वह प्रोजेक्ट चुनें जिसे आपको मिटाना है. इसके बाद, मिटाएं पर क्लिक करें.
3. डायलॉग बॉक्स में, प्रोजेक्ट आईडी टाइप करें. इसके बाद, प्रोजेक्ट मिटाने के लिए बंद करें पर क्लिक करें.
4. अगर आपको अपना प्रोजेक्ट चालू रखना है, तो ऊपर दिए गए चरणों को छोड़ दें. इसके बाद, Cloud Run पर जाकर Cloud Run सेवा को मिटाएं. सेवाओं की सूची में जाकर, उस सेवा पर सही का निशान लगाएं जिसे आपको मिटाना है. इसके बाद, मिटाएं पर क्लिक करें.

8. बधाई हो

बधाई हो! आपने Google Cloud पर Cloud Run सेवा के तौर पर, वेब ऐप्लिकेशन के लिए एआई पर आधारित चैट ऐप्लिकेशन को सफलतापूर्वक बनाया और डिप्लॉय किया है. इस चैट ऐप्लिकेशन का इस्तेमाल करके, उपयोगकर्ताओं को अपनी क्वेरी डालने की सुविधा दी जा सकती है. इससे यह ऐप्लिकेशन, Vertex AI चैट मॉडल को चालू करेगा और जवाब देगा.