ক্লাউড ফাংশন যা PaLM টেক্সট বাইসন মডেলগুলিকে আবৃত করে

1। পরিচিতি

এই কোডল্যাবটি দেখায় যে কীভাবে একটি ক্লাউড ফাংশন চালু করতে হয় যা ভার্টেক্স এআই মডিউল শুরু করে এবং তারপরে PaLM টেক্সট বাইসন মডেলটি চালু করার জন্য একটি শেষ পয়েন্ট প্রদান করে। এই ক্লাউড ফাংশনটি পাইথনে লেখা। নিম্নে ব্যবহৃত পরিষেবাগুলির তালিকা রয়েছে:

  • ক্লাউড ফাংশন
  • Vertex AI PaLM API

আপনি কি নির্মাণ করবেন

আপনি একটি ক্লাউড ফাংশন তৈরি এবং স্থাপন করবেন যা PaLM টেক্সট বাইসন মডেলের জন্য একটি শেষ পয়েন্ট প্রদান করে।

2. প্রয়োজনীয়তা

3. আপনি শুরু করার আগে

  1. Google ক্লাউড কনসোলে , প্রকল্প নির্বাচক পৃষ্ঠায়, একটি Google ক্লাউড প্রকল্প নির্বাচন করুন বা তৈরি করুন৷
  2. আপনার Google ক্লাউড প্রকল্পের জন্য বিলিং সক্ষম করা আছে তা নিশ্চিত করুন৷ একটি প্রকল্পে বিলিং সক্ষম কিনা তা পরীক্ষা করতে শিখুন
  3. এখানে নির্দেশাবলী অনুসরণ করে Google ক্লাউড কনসোল থেকে ক্লাউড শেল সক্রিয় করুন
  4. যদি আপনার প্রজেক্ট সেট করা না থাকে, তাহলে এটি সেট করতে নিম্নলিখিত কমান্ডটি ব্যবহার করুন:
gcloud config set project <YOUR_PROJECT_ID>
  1. ক্লাউড শেলে, নিম্নলিখিত পরিবেশ ভেরিয়েবল সেট করুন:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. ক্লাউড শেল টার্মিনালে নিম্নলিখিত কমান্ডগুলি সম্পাদন করে প্রয়োজনীয় Google ক্লাউড এপিআই সক্ষম করুন:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. ক্লাউড ফাংশন স্থাপন করুন

ক্লাউড ফাংশন তৈরি এবং স্থাপন করতে, এই পদক্ষেপগুলি অনুসরণ করুন:

  1. আপনার ক্লাউড শেল টার্মিনালে নিম্নলিখিত কমান্ডটি কার্যকর করে রেপো https://github.com/rominirani/genai-apptemplates-googlecloud থেকে ক্লোন কোড করুন:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. এই কমান্ডটি রেপো বিষয়বস্তু genai-templates-googlecloud ফোল্ডারে ক্লোন করবে।
  2. ক্লাউড শেল টার্মিনাল থেকে নিম্নলিখিত কমান্ডটি কার্যকর করার মাধ্যমে আমরা যে প্রোজেক্টের বিষয়ে যত্নশীল সেই ফোল্ডারে নেভিগেট করুন:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. টেক্সট-প্রেডিক্ট-ক্লাউডফাংশন ফোল্ডারে আপনার main.py এবং requirements.txt উভয় ফাইলই দেখতে হবে dir কমান্ড চালানোর মাধ্যমে অথবা ক্লাউড শেল এডিটরে নেভিগেট করে।
  2. ক্লাউড ফাংশন স্থাপন করতে, gcloud ফাংশন deploy কমান্ডটি চালান:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

আপনি ক্লাউড ফাংশন স্থাপন করার পরে, যে ক্লাউড ফাংশনটি স্থাপন করা হয়েছে তার URL ক্লাউড শেল টার্মিনালে প্রদর্শিত হয়। URLটি নিম্নলিখিত বিন্যাসে রয়েছে:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. ক্লাউড ফাংশন আহ্বান করুন

যেহেতু এই ক্লাউড ফাংশনটি একটি HTTP ট্রিগারের সাথে স্থাপন করা হয়েছে, আপনি সরাসরি এটি চালু করতে পারেন৷ এখানে একটি নমুনা কল আছে:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

আউটপুট এই মত দেখায়:

3470e0a6d0a30b37.png

6. পরিষ্কার করুন

এই পোস্টে ব্যবহৃত সংস্থানগুলির জন্য আপনার Google ক্লাউড অ্যাকাউন্টে চার্জ এড়াতে, এই পদক্ষেপগুলি অনুসরণ করুন:

  1. Google ক্লাউড কনসোলে, সম্পদ পরিচালনা পৃষ্ঠাতে যান।
  2. প্রকল্প তালিকায়, আপনি যে প্রকল্পটি মুছতে চান সেটি নির্বাচন করুন এবং তারপরে মুছুন ক্লিক করুন।
  3. ডায়ালগে, প্রজেক্ট আইডি টাইপ করুন এবং তারপরে প্রোজেক্ট মুছে ফেলতে শাট ডাউন ক্লিক করুন।
  4. আপনি যদি আপনার প্রকল্পটি রাখতে চান, উপরের ধাপগুলি এড়িয়ে যান এবং ক্লাউড ফাংশনে নেভিগেট করে ক্লাউড ফাংশনটি মুছুন এবং ফাংশনগুলির তালিকা থেকে, আপনি যেটি মুছতে চান সেটি চেক করুন এবং মুছুন ক্লিক করুন৷

7. অভিনন্দন

অভিনন্দন! আপনি সফলভাবে একটি ক্লাউড ফাংশন ব্যবহার করেছেন যা PaLM টেক্সট বাইসন মডেলকে মোড়ানো। উপলব্ধ মডেল সম্পর্কে আরও জানতে Vertex AI LLM পণ্যের ডকুমেন্টেশন দেখুন।