1. परिचय
यह कोडलैब, Vertex AI मॉड्यूल को शुरू करने वाले Cloud Function को शुरू करने का तरीका बताता है. इसके बाद, PaLM Text बाइसन मॉडल को शुरू करने के लिए एंडपॉइंट उपलब्ध कराता है. यह Cloud Function, Python में लिखा गया है. इस्तेमाल की जाने वाली सेवाओं की सूची यहां दी गई है:
- Cloud Functions
- Vertex AI PaLM API
आपको क्या बनाना होगा
आपको एक ऐसा Cloud फ़ंक्शन बनाना और डिप्लॉय करना होगा जो PaLM टेक्स्ट बाइसन मॉडल को शुरू करने के लिए एंडपॉइंट उपलब्ध कराता हो.
2. ज़रूरी शर्तें
3. शुरू करने से पहले
- Google Cloud Console में, प्रोजेक्ट चुनने वाले पेज पर, Google Cloud प्रोजेक्ट चुनें या बनाएं
- पक्का करें कि आपके Google Cloud प्रोजेक्ट के लिए बिलिंग की सुविधा चालू हो. किसी प्रोजेक्ट के लिए बिलिंग की सुविधा चालू है या नहीं, यह देखने का तरीका जानें
- यहां दिए गए निर्देशों का पालन करके, Google Cloud Console से Cloud Shell को चालू करें
- अगर आपका प्रोजेक्ट सेट नहीं है, तो इसे सेट करने के लिए नीचे दिए गए कमांड का इस्तेमाल करें:
gcloud config set project <YOUR_PROJECT_ID>
- Cloud Shell में, ये एनवायरमेंट वैरिएबल सेट करें:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- Cloud Shell टर्मिनल में नीचे दिए गए निर्देशों का पालन करके, ज़रूरी Google Cloud API चालू करें:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
4. क्लाउड फ़ंक्शन डिप्लॉय करें
Cloud Functions बनाने और डिप्लॉय करने के लिए, यह तरीका अपनाएं:
- अपने Cloud Shell टर्मिनल में इस निर्देश को एक्ज़ीक्यूट करके, रेपो https://github.com/rominirani/genai-apptemplates-googlecloud से कोड को क्लोन करें:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- यह निर्देश, रेपो कॉन्टेंट का क्लोन genai-templates-googlecloud फ़ोल्डर में ले जाएगा.
- Cloud Shell टर्मिनल से नीचे दिए गए निर्देश को लागू करके, उस प्रोजेक्ट के फ़ोल्डर पर जाएं जिसमें हम आपका ध्यान रखना चाहते हैं:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
- आपको टेक्स्ट-प्रेडिक्ट-क्लाउड फ़ंक्शन फ़ोल्डर में main.py और requirements.txt , दोनों फ़ाइलें दिखेंगी. इसके लिए, der कमांड का इस्तेमाल करें या Cloud Shell Editor पर जाएं.
- Cloud Function को डिप्लॉय करने के लिए, gcloud फ़ॉर्मूला डिप्लॉय कमांड का इस्तेमाल करें:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1
Cloud फ़ंक्शन डिप्लॉय करने के बाद, डिप्लॉय किए गए Cloud फ़ंक्शन का यूआरएल, Cloud Shell टर्मिनल पर दिखता है. यूआरएल नीचे दिए गए फ़ॉर्मैट में होता है:
https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText
5. क्लाउड फ़ंक्शन शुरू करें
इस Cloud Function को एचटीटीपी ट्रिगर के साथ डिप्लॉय किया गया है, इसलिए इसे सीधे शुरू किया जा सकता है. यहां एक सैंपल कॉल दिया गया है:
curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
"prompt": "What are the best places to visit in the United States?"
}'
आउटपुट कुछ ऐसा दिखेगा:
6. व्यवस्थित करें
इस पोस्ट में इस्तेमाल किए गए संसाधनों के लिए, आपके Google Cloud खाते पर शुल्क न लगे, इसके लिए यह तरीका अपनाएं:
- Google Cloud Console में, संसाधन मैनेज करें पेज पर जाएं.
- प्रोजेक्ट की सूची में, वह प्रोजेक्ट चुनें जिसे मिटाना है. इसके बाद, मिटाएं पर क्लिक करें.
- डायलॉग बॉक्स में, प्रोजेक्ट आईडी टाइप करें. इसके बाद, प्रोजेक्ट मिटाने के लिए, शट डाउन करें पर क्लिक करें.
- अगर आपको अपना प्रोजेक्ट बनाए रखना है, तो ऊपर दिए गए चरणों को छोड़ दें और Cloud Functions पर जाकर, Cloud Function को मिटाएं. फ़ंक्शन की सूची में, उस फ़ंक्शन को चुनें जिसे मिटाना है. इसके बाद, 'मिटाएं' पर क्लिक करें.
7. बधाई हो
बधाई हो! आपने क्लाउड फ़ंक्शन का इस्तेमाल कर लिया है, जो PaLM टेक्स्ट बाइसन मॉडल को रैप करता है. उपलब्ध मॉडल के बारे में ज़्यादा जानने के लिए, Vertex AI एलएलएम से जुड़े प्रॉडक्ट के दस्तावेज़ देखें.