ক্লাউড ফাংশন যা PaLM টেক্সট বাইসন মডেলগুলিকে আবৃত করে

১. ভূমিকা

এই কোডল্যাবে দেখানো হয়েছে কীভাবে একটি ক্লাউড ফাংশন কল করতে হয়, যা প্রথমে Vertex AI মডিউলটি ইনিশিয়ালাইজ করে এবং তারপর PaLM Text Bison মডেলটি কল করার জন্য একটি এন্ডপয়েন্ট প্রদান করে। এই ক্লাউড ফাংশনটি পাইথনে লেখা। ব্যবহৃত সার্ভিসগুলোর তালিকা নিচে দেওয়া হলো:

• ক্লাউড ফাংশন
• ভার্টেক্স এআই পাম এপিআই

আপনি যা তৈরি করবেন

আপনি একটি ক্লাউড ফাংশন তৈরি ও স্থাপন করবেন যা PaLM টেক্সট বাইসন মডেলকে আহ্বান করার জন্য একটি এন্ডপয়েন্ট প্রদান করবে।

২. প্রয়োজনীয়তা

• ক্রোম বা ফায়ারফক্সের মতো একটি ব্রাউজার
• বিলিং সক্ষম একটি গুগল ক্লাউড প্রজেক্ট

৩. শুরু করার আগে

1. গুগল ক্লাউড কনসোলের প্রজেক্ট সিলেক্টর পেজে, একটি গুগল ক্লাউড প্রজেক্ট নির্বাচন করুন বা তৈরি করুন।
2. আপনার গুগল ক্লাউড প্রোজেক্টের জন্য বিলিং চালু আছে কিনা তা নিশ্চিত করুন। কোনো প্রোজেক্টে বিলিং চালু আছে কিনা তা কীভাবে পরীক্ষা করবেন তা জানুন।
3. এখানে দেওয়া নির্দেশাবলী অনুসরণ করে গুগল ক্লাউড কনসোল থেকে ক্লাউড শেল সক্রিয় করুন।
4. আপনার প্রজেক্টটি সেট করা না থাকলে, এটি সেট করতে নিম্নলিখিত কমান্ডটি ব্যবহার করুন:

gcloud config set project <YOUR_PROJECT_ID>

5. ক্লাউড শেলে, নিম্নলিখিত এনভায়রনমেন্ট ভেরিয়েবলগুলো সেট করুন:

export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1

6. ক্লাউড শেল টার্মিনালে নিম্নলিখিত কমান্ডগুলি চালিয়ে প্রয়োজনীয় গুগল ক্লাউড এপিআইগুলি সক্রিয় করুন:

gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

৪. ক্লাউড ফাংশনটি স্থাপন করুন

ক্লাউড ফাংশন তৈরি ও স্থাপন করতে, এই ধাপগুলো অনুসরণ করুন:

1. আপনার ক্লাউড শেল টার্মিনালে নিম্নলিখিত কমান্ডটি চালিয়ে https://github.com/rominirani/genai-apptemplates-googlecloud রিপো থেকে কোড ক্লোন করুন:

git clone https://github.com/rominirani/genai-apptemplates-googlecloud

2. এই কমান্ডটি রিপোটির কন্টেন্টগুলো genai-templates-googlecloud ফোল্ডারে ক্লোন করবে।
3. ক্লাউড শেল টার্মিনাল থেকে নিম্নলিখিত কমান্ডটি চালিয়ে আমাদের প্রয়োজনীয় প্রজেক্টের ফোল্ডারে যান:

cd genai-apptemplates-googlecloud/text-predict-cloudfunction

4. আপনি `dir` কমান্ড চালিয়ে অথবা `Cloud Shell Editor`-এ গিয়ে `text-predict-cloudfunction` ফোল্ডারে `main.py` এবং `requirements.txt` উভয় ফাইলই দেখতে পাবেন।
5. ক্লাউড ফাংশনটি ডিপ্লয় করতে, gcloud functions deploy কমান্ডটি চালান:

gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

ক্লাউড ফাংশনটি ডিপ্লয় করার পরে, ডিপ্লয় করা ক্লাউড ফাংশনটির URL ক্লাউড শেল টার্মিনালে প্রদর্শিত হয়। URL-টি নিম্নলিখিত বিন্যাসে থাকে:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

৫. ক্লাউড ফাংশনটি চালু করুন

যেহেতু এই ক্লাউড ফাংশনটি একটি HTTP ট্রিগার দিয়ে ডেপ্লয় করা হয়েছে, আপনি এটিকে সরাসরি কল করতে পারেন। এখানে একটি নমুনা কল দেওয়া হলো:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

আউটপুটটি দেখতে এইরকম:

৬. পরিষ্কার করুন

এই পোস্টে ব্যবহৃত রিসোর্সগুলোর জন্য আপনার গুগল ক্লাউড অ্যাকাউন্টে চার্জ হওয়া এড়াতে, এই ধাপগুলো অনুসরণ করুন:

1. গুগল ক্লাউড কনসোলে, রিসোর্স পরিচালনা (Manage resources) পৃষ্ঠায় যান।
2. প্রজেক্ট তালিকা থেকে, আপনি যে প্রজেক্টটি মুছতে চান সেটি নির্বাচন করুন এবং তারপর ডিলিট-এ ক্লিক করুন।
3. ডায়ালগ বক্সে প্রজেক্ট আইডি টাইপ করুন এবং তারপর প্রজেক্টটি মুছে ফেলার জন্য 'শাট ডাউন'-এ ক্লিক করুন।
4. আপনি যদি আপনার প্রজেক্টটি রাখতে চান, তাহলে উপরের ধাপগুলো এড়িয়ে যান এবং Cloud Functions-এ গিয়ে ফাংশনগুলোর তালিকা থেকে যেটি মুছতে চান সেটি নির্বাচন করে DELETE-এ ক্লিক করুন।

৭. অভিনন্দন

অভিনন্দন! আপনি সফলভাবে একটি ক্লাউড ফাংশন ব্যবহার করেছেন যা PaLM টেক্সট বাইসন মডেলকে আবৃত করে। উপলব্ধ মডেলগুলো সম্পর্কে আরও জানতে Vertex AI LLM প্রোডাক্ট ডকুমেন্টেশন দেখুন।