Cloud फ़ंक्शन, जो PaLM टेक्स्ट बाइसन मॉडल को रैप करता है

1. परिचय

इस कोडलैब में दिखाया गया है कि Vertex AI मॉड्यूल को शुरू करने वाली Cloud फ़ंक्शन को कैसे शुरू किया जाता है. इसके बाद, यह PaLM Text Bison मॉडल को शुरू करने के लिए एक एंडपॉइंट उपलब्ध कराता है. इस Cloud Function को Python में लिखा गया है. इस्तेमाल की गई सेवाओं की सूची यहां दी गई है:

• Cloud Functions
• Vertex AI PaLM API

आपको क्या बनाने को मिलेगा

आपको एक Cloud फ़ंक्शन बनाना और उसे डिप्लॉय करना होगा. यह PaLM Text Bison मॉडल को चालू करने के लिए एक एंडपॉइंट उपलब्ध कराता है.

2. ज़रूरी शर्तें

• कोई ब्राउज़र, जैसे कि Chrome या Firefox
• बिलिंग की सुविधा वाला Google Cloud प्रोजेक्ट

3. शुरू करने से पहले

1. Google Cloud Console में, प्रोजेक्ट चुनने वाले पेज पर जाकर, Google Cloud प्रोजेक्ट चुनें या बनाएं
2. पक्का करें कि आपके Google Cloud प्रोजेक्ट के लिए बिलिंग चालू हो. किसी प्रोजेक्ट के लिए बिलिंग चालू है या नहीं, यह देखने का तरीका जानें
3. यहां दिए गए निर्देशों का पालन करके, Google Cloud Console से Cloud Shell चालू करें
4. अगर आपका प्रोजेक्ट सेट नहीं है, तो इसे सेट करने के लिए इस निर्देश का इस्तेमाल करें:

gcloud config set project <YOUR_PROJECT_ID>

5. Cloud Shell में, ये एनवायरमेंट वैरिएबल सेट करें:

export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1

6. Cloud Shell टर्मिनल में यहां दिए गए निर्देशों को चलाकर, ज़रूरी Google Cloud API चालू करें:

gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Cloud फ़ंक्शन डिप्लॉय करना

Cloud Functions बनाने और उन्हें डिप्लॉय करने के लिए, यह तरीका अपनाएं:

1. अपने Cloud Shell टर्मिनल में यह कमांड चलाकर, https://github.com/rominirani/genai-apptemplates-googlecloud से कोड क्लोन करें:

git clone https://github.com/rominirani/genai-apptemplates-googlecloud

2. इस कमांड से, repo का कॉन्टेंट genai-templates-googlecloud फ़ोल्डर में क्लोन हो जाएगा.
3. Cloud Shell टर्मिनल में यह कमांड चलाकर, उस प्रोजेक्ट के फ़ोल्डर पर जाएं जिसके बारे में हमें जानकारी चाहिए:

cd genai-apptemplates-googlecloud/text-predict-cloudfunction

4. आपको text-predict-cloudfunction फ़ोल्डर में main.py और requirements.txt दोनों फ़ाइलें दिखनी चाहिए. इसके लिए, dir कमांड चलाएं या Cloud Shell Editor पर जाएं.
5. Cloud फ़ंक्शन को डिप्लॉय करने के लिए, gcloud functions deploy कमांड चलाएं:

gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

Cloud Function को डिप्लॉय करने के बाद, डिप्लॉय किए गए Cloud Function का यूआरएल, Cloud Shell टर्मिनल पर दिखता है. यूआरएल इस फ़ॉर्मैट में होता है:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. Cloud फ़ंक्शन को चालू करना

इस Cloud फ़ंक्शन को एचटीटीपी ट्रिगर के साथ डिप्लॉय किया गया है. इसलिए, इसे सीधे तौर पर चालू किया जा सकता है. यहां कॉल का एक सैंपल दिया गया है:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

आउटपुट ऐसा दिखता है:

6. व्यवस्थित करें

इस पोस्ट में इस्तेमाल की गई संसाधनों के लिए, अपने Google Cloud खाते से शुल्क न लिए जाने के लिए, यह तरीका अपनाएं:

1. Google Cloud Console में, संसाधन मैनेज करें पेज पर जाएं.
2. प्रोजेक्ट की सूची में, वह प्रोजेक्ट चुनें जिसे आपको मिटाना है. इसके बाद, मिटाएं पर क्लिक करें.
3. डायलॉग बॉक्स में, प्रोजेक्ट आईडी टाइप करें. इसके बाद, प्रोजेक्ट मिटाने के लिए बंद करें पर क्लिक करें.
4. अगर आपको अपना प्रोजेक्ट सेव रखना है, तो ऊपर दिए गए चरणों को छोड़ दें. इसके बाद, Cloud Functions पर जाकर Cloud Function मिटाएं. इसके लिए, फ़ंक्शन की सूची में जाकर, उस फ़ंक्शन को चुनें जिसे मिटाना है. इसके बाद, मिटाएं पर क्लिक करें.

7. बधाई हो

बधाई हो! आपने PaLM Text Bison मॉडल को रैप करने वाले Cloud फ़ंक्शन का इस्तेमाल कर लिया है. उपलब्ध मॉडल के बारे में ज़्यादा जानने के लिए, Vertex AI LLM प्रॉडक्ट का दस्तावेज़ देखें.