1. ভূমিকা
ভার্টেক্স এআই মডেল গার্ডেন থেকে মোতায়েন করা মডেলগুলির জন্য নিরাপদ, ব্যক্তিগত অ্যাক্সেস স্থাপন করতে প্রাইভেট সার্ভিস কানেক্ট ব্যবহার করুন। একটি পাবলিক এন্ডপয়েন্ট প্রকাশ করার পরিবর্তে, এই পদ্ধতিটি আপনাকে আপনার মডেলটিকে একটি ব্যক্তিগত ভার্টেক্স এআই এন্ডপয়েন্টে স্থাপন করতে দেয় যা শুধুমাত্র আপনার ভার্চুয়াল প্রাইভেট ক্লাউড (VPC) এর মধ্যে অ্যাক্সেসযোগ্য।
প্রাইভেট সার্ভিস কানেক্ট আপনার VPC-এর ভিতরে একটি অভ্যন্তরীণ IP ঠিকানা সহ একটি এন্ডপয়েন্ট তৈরি করে, যা সরাসরি আপনার মডেল হোস্ট করা Google-পরিচালিত Vertex AI পরিষেবার সাথে সংযুক্ত হয়। এটি আপনার VPC এবং অন-প্রেমিসেস পরিবেশে (ক্লাউড VPN বা ইন্টারকানেক্টের মাধ্যমে) অ্যাপ্লিকেশনগুলিকে ব্যক্তিগত IP ব্যবহার করে অনুমান অনুরোধ পাঠাতে সক্ষম করে। সমস্ত নেটওয়ার্ক ট্র্যাফিক Google-এর নেটওয়ার্কে থাকে, যা নিরাপত্তা বাড়ায়, লেটেন্সি হ্রাস করে এবং আপনার মডেলের সার্ভিং এন্ডপয়েন্টকে পাবলিক ইন্টারনেট থেকে সম্পূর্ণরূপে বিচ্ছিন্ন করে।
তুমি কী তৈরি করবে
এই টিউটোরিয়ালে, আপনি মডেল গার্ডেন থেকে জেমা 3 ডাউনলোড করবেন, যা ভার্টেক্স এআই অনলাইন ইনফারেন্সে হোস্ট করা হয়েছে এবং প্রাইভেট সার্ভিস কানেক্টের মাধ্যমে অ্যাক্সেসযোগ্য একটি প্রাইভেট এন্ডপয়েন্ট হিসেবে ব্যবহার করা হবে। আপনার এন্ড-টু-এন্ড সেটআপে অন্তর্ভুক্ত থাকবে:
- মডেল গার্ডেন মডেল: আপনি ভার্টেক্স এআই মডেল গার্ডেন থেকে জেমা 3 নির্বাচন করবেন এবং এটি একটি প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্টে স্থাপন করবেন।
- প্রাইভেট সার্ভিস কানেক্ট: আপনি আপনার ভার্চুয়াল প্রাইভেট ক্লাউড (VPC) তে একটি কনজিউমার এন্ডপয়েন্ট কনফিগার করবেন যার মধ্যে আপনার নিজস্ব নেটওয়ার্কের মধ্যে একটি অভ্যন্তরীণ IP ঠিকানা থাকবে।
- Vertex AI-তে নিরাপদ সংযোগ: PSC এন্ডপয়েন্টটি আপনার ব্যক্তিগত মডেল স্থাপনের জন্য Vertex AI দ্বারা স্বয়ংক্রিয়ভাবে তৈরি পরিষেবা সংযুক্তিকে লক্ষ্য করবে। এটি একটি ব্যক্তিগত সংযোগ স্থাপন করে, নিশ্চিত করে যে আপনার VPC এবং মডেল পরিবেশনকারী এন্ডপয়েন্টের মধ্যে ট্র্যাফিক পাবলিক ইন্টারনেট অতিক্রম না করে।
- আপনার VPC-এর মধ্যে ক্লায়েন্ট কনফিগারেশন: আপনি আপনার VPC-এর মধ্যে একটি ক্লায়েন্ট (যেমন, কম্পিউট ইঞ্জিন VM) সেট আপ করবেন যা PSC এন্ডপয়েন্টের অভ্যন্তরীণ IP ঠিকানা ব্যবহার করে স্থাপন করা মডেলে অনুমান অনুরোধ পাঠাবে।
শেষ পর্যন্ত, আপনার কাছে একটি মডেল গার্ডেন মডেলের একটি কার্যকরী উদাহরণ থাকবে যা ব্যক্তিগতভাবে পরিবেশন করা হচ্ছে, যা শুধুমাত্র আপনার মনোনীত VPC নেটওয়ার্কের মধ্যে থেকে অ্যাক্সেসযোগ্য।
তুমি কি শিখবে
এই টিউটোরিয়ালে, আপনি শিখবেন কিভাবে ভার্টেক্স এআই মডেল গার্ডেন থেকে একটি মডেল স্থাপন করবেন এবং প্রাইভেট সার্ভিস কানেক্ট (PSC) ব্যবহার করে আপনার ভার্চুয়াল প্রাইভেট ক্লাউড (VPC) থেকে এটি নিরাপদে অ্যাক্সেসযোগ্য করবেন। এই পদ্ধতিটি আপনার VPC (ভোক্তা) এর মধ্যে থাকা অ্যাপ্লিকেশনগুলিকে পাবলিক ইন্টারনেট অতিক্রম না করেই ভার্টেক্স এআই মডেল এন্ডপয়েন্ট (প্রযোজক পরিষেবা) এর সাথে ব্যক্তিগতভাবে সংযোগ করতে দেয়।
বিশেষ করে, আপনি শিখবেন:
- ভার্টেক্স এআই-এর জন্য পিএসসি বোঝা: পিএসসি কীভাবে ব্যক্তিগত এবং সুরক্ষিত ভোক্তা-থেকে-প্রযোজক সংযোগ সক্ষম করে। আপনার ভিপিসি অভ্যন্তরীণ আইপি ঠিকানা ব্যবহার করে মোতায়েন করা মডেল গার্ডেন মডেলটি অ্যাক্সেস করতে পারে।
- প্রাইভেট অ্যাক্সেস সহ একটি মডেল স্থাপন: আপনার মডেল গার্ডেন মডেলের জন্য PSC ব্যবহার করার জন্য একটি ভার্টেক্স এআই এন্ডপয়েন্ট কীভাবে কনফিগার করবেন, এটিকে একটি প্রাইভেট এন্ডপয়েন্টে পরিণত করবেন।
- পরিষেবা সংযুক্তির ভূমিকা: যখন আপনি একটি ব্যক্তিগত ভার্টেক্স এআই এন্ডপয়েন্টে একটি মডেল স্থাপন করেন, তখন গুগল ক্লাউড স্বয়ংক্রিয়ভাবে গুগল-পরিচালিত ভাড়াটে প্রকল্পে একটি পরিষেবা সংযুক্তি তৈরি করে। এই পরিষেবা সংযুক্তিটি গ্রাহক নেটওয়ার্কগুলিতে মডেল পরিবেশন পরিষেবাটি প্রকাশ করে।
- আপনার VPC-তে একটি PSC এন্ডপয়েন্ট তৈরি করা:
- আপনার স্থাপন করা Vertex AI এন্ডপয়েন্টের বিবরণ থেকে অনন্য পরিষেবা সংযুক্তি URI কীভাবে পাবেন।
- আপনার VPC-তে আপনার নির্বাচিত সাবনেটের মধ্যে একটি অভ্যন্তরীণ IP ঠিকানা কীভাবে সংরক্ষণ করবেন।
- আপনার VPC-তে একটি ফরোয়ার্ডিং রুল কীভাবে তৈরি করবেন যা PSC এন্ডপয়েন্ট হিসেবে কাজ করবে, যা Vertex AI পরিষেবা সংযুক্তিকে লক্ষ্য করবে। এই এন্ডপয়েন্টটি মডেলটিকে সংরক্ষিত অভ্যন্তরীণ IP এর মাধ্যমে অ্যাক্সেসযোগ্য করে তোলে।
- ব্যক্তিগত সংযোগ স্থাপন: আপনার VPC-তে PSC এন্ডপয়েন্ট কীভাবে পরিষেবা সংযুক্তির সাথে সংযুক্ত হয়, আপনার নেটওয়ার্ককে Vertex AI পরিষেবার সাথে নিরাপদে সংযুক্ত করে।
- ব্যক্তিগতভাবে অনুমানের অনুরোধ পাঠানো: আপনার VPC-এর মধ্যে থাকা রিসোর্সগুলি (যেমন কম্পিউট ইঞ্জিন VM) থেকে PSC এন্ডপয়েন্টের অভ্যন্তরীণ IP ঠিকানায় কীভাবে পূর্বাভাসের অনুরোধ পাঠাবেন।
- যাচাইকরণ: আপনার VPC থেকে ব্যক্তিগত সংযোগের মাধ্যমে মোতায়েন করা মডেল গার্ডেন মডেলে আপনি সফলভাবে অনুমানের অনুরোধ পাঠাতে পারেন কিনা তা পরীক্ষা এবং নিশ্চিত করার পদক্ষেপ।
এটি সম্পন্ন করার মাধ্যমে, আপনি মডেল গার্ডেন থেকে এমন মডেলগুলি হোস্ট করতে সক্ষম হবেন যা শুধুমাত্র আপনার ব্যক্তিগত নেটওয়ার্ক পরিকাঠামো থেকে পৌঁছানো যাবে।
তোমার যা লাগবে
গুগল ক্লাউড প্রজেক্ট
IAM অনুমতি
- এআই প্ল্যাটফর্ম অ্যাডমিন (ভূমিকা/মিলি.অ্যাডমিন)
- কম্পিউট নেটওয়ার্ক অ্যাডমিন (roles/compute.networkAdmin)
- কম্পিউট ইনস্ট্যান্স অ্যাডমিন (roles/compute.instanceAdmin)
- কম্পিউট সিকিউরিটি অ্যাডমিন (roles/compute.securityAdmin)
- ডিএনএস প্রশাসক (roles/dns.admin)
- IAP-সুরক্ষিত টানেল ব্যবহারকারী (roles/iap.tunnelResourceAccessor)
- লগিং অ্যাডমিন (roles/logging.admin)
- নোটবুক অ্যাডমিন (roles/notebooks.admin)
- প্রজেক্ট আইএএম অ্যাডমিন (roles/resourcemanager.projectIamAdmin)
- পরিষেবা অ্যাকাউন্ট প্রশাসক (ভূমিকা/iam.serviceAccountAdmin)
- পরিষেবা ব্যবহারের প্রশাসক (roles/serviceusage.serviceUsageAdmin)
2. শুরু করার আগে
টিউটোরিয়ালটি সমর্থন করার জন্য প্রকল্পটি আপডেট করুন।
এই টিউটোরিয়ালটি ক্লাউড শেলে gcloud কনফিগারেশন বাস্তবায়নে সহায়তা করার জন্য $variables ব্যবহার করে।
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud config list project
gcloud config set project [YOUR-PROJECT-ID]
projectid=[YOUR-PROJECT-ID]
echo $projectid
API সক্ষমকরণ
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud services enable "compute.googleapis.com"
gcloud services enable "aiplatform.googleapis.com"
gcloud services enable "serviceusage.googleapis.com"
৩. মডেল স্থাপন করুন
মডেল গার্ডেন থেকে আপনার মডেলটি স্থাপন করতে নীচের পদক্ষেপগুলি অনুসরণ করুন
গুগল ক্লাউড কনসোলে, মডেল গার্ডেনে যান এবং অনুসন্ধান করুন এবং Gemma 3 নির্বাচন করুন।
Deploy options এ ক্লিক করুন এবং Vertex AI নির্বাচন করুন।
Deploy on Vertex AI ফলকে, Advanced নির্বাচন করুন। পূর্বে জনবহুল অঞ্চল এবং মেশিন স্পেক উপলব্ধ ক্ষমতার উপর ভিত্তি করে নির্বাচন করা হয়। আপনি এই মানগুলি পরিবর্তন করতে পারেন, যদিও কোডল্যাবটি us-central1 এর জন্য তৈরি করা হয়েছে।
Deploy on Vertex AI প্যানে, নিশ্চিত করুন যে Endpoint Access Private Service Connect হিসেবে কনফিগার করা আছে, তারপর আপনার Project নির্বাচন করুন।
অন্যান্য বিকল্পের জন্য সমস্ত ডিফল্ট ছেড়ে দিন, তারপর নীচে Deploy নির্বাচন করুন এবং স্থাপনার স্থিতির জন্য আপনার বিজ্ঞপ্তিগুলি পরীক্ষা করুন।
মডেল গার্ডেনে, us-central1 অঞ্চলটি নির্বাচন করুন, যা Gemma 3 মডেল এবং শেষ বিন্দু প্রদান করে। মডেল স্থাপনে প্রায় 5 মিনিট সময় লাগে।
৩০ মিনিটের মধ্যে, শেষ বিন্দুটি সম্পন্ন হলে "সক্রিয়" তে রূপান্তরিত হবে।
এন্ডপয়েন্ট নির্বাচন করে এন্ডপয়েন্ট আইডিটি সংগ্রহ করুন এবং নোট করুন।
ক্লাউড শেলটি খুলুন এবং Private Service Connect Service Attachment URI পেতে নিম্নলিখিতগুলি করুন। PSC কনজিউমার এন্ডপয়েন্ট স্থাপন করার সময় এই URI স্ট্রিংটি গ্রাহক দ্বারা ব্যবহৃত হয়।
ক্লাউড শেলের ভিতরে, এন্ডপয়েন্ট আইডি আপডেট করুন, তারপর নিম্নলিখিত কমান্ডটি জারি করুন।
gcloud ai endpoints describe [Endpoint ID] --region=us-central1 | grep -i serviceAttachment:
নিচে একটি উদাহরণ দেওয়া হল:
user@cloudshell:$ gcloud ai endpoints describe 2124795225560842240 --region=us-central1 | grep -i serviceAttachment:
Using endpoint [https://us-central1-aiplatform.googleapis.com/]
serviceAttachment: projects/o9457b320a852208e-tp/regions/us-central1/serviceAttachments/gkedpm-52065579567eaf39bfe24f25f7981d
serviceAttachment এর পরের কন্টেন্টগুলো "Service_attachment" নামক একটি ভেরিয়েবলে কপি করুন, PSC সংযোগ তৈরি করার সময় আপনার এটির প্রয়োজন হবে।
user@cloudshell:$ Service_attachment=projects/o9457b320a852208e-tp/regions/us-central1/serviceAttachments/gkedpm-52065579567eaf39bfe24f25f7981d
৪. গ্রাহক সেটআপ
কনজিউমার ভিপিসি তৈরি করুন
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud compute networks create consumer-vpc --project=$projectid --subnet-mode=custom
কনজিউমার ভিএম সাবনেট তৈরি করুন
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud compute networks subnets create consumer-vm-subnet --project=$projectid --range=192.168.1.0/24 --network=consumer-vpc --region=us-central1 --enable-private-ip-google-access
পিএসসি এন্ডপয়েন্ট সাবনেট তৈরি করুন
gcloud compute networks subnets create pscendpoint-subnet --project=$projectid --range=10.10.10.0/28 --network=consumer-vpc --region=us-central1
৫. IAP সক্ষম করুন
IAP কে আপনার VM ইনস্ট্যান্সের সাথে সংযোগ করার অনুমতি দিতে, একটি ফায়ারওয়াল নিয়ম তৈরি করুন যা:
- IAP ব্যবহার করে আপনি যে সমস্ত VM ইনস্ট্যান্স অ্যাক্সেস করতে চান তার ক্ষেত্রে প্রযোজ্য।
- ৩৫.২৩৫.২৪০.০/২০ আইপি রেঞ্জ থেকে ট্র্যাফিক প্রবেশের অনুমতি দেয়। এই রেঞ্জে সমস্ত আইপি ঠিকানা রয়েছে যা আইএপি টিসিপি ফরোয়ার্ডিংয়ের জন্য ব্যবহার করে।
ক্লাউড শেলের ভিতরে, IAP ফায়ারওয়াল নিয়ম তৈরি করুন।
gcloud compute firewall-rules create ssh-iap-consumer \
--network consumer-vpc \
--allow tcp:22 \
--source-ranges=35.235.240.0/20
৬. কনজিউমার ভিএম ইনস্ট্যান্স তৈরি করুন
ক্লাউড শেলের ভিতরে, কনজিউমার ভিএম ইনস্ট্যান্স তৈরি করুন, কনজিউমার-ভিএম।
gcloud compute instances create consumer-vm \
--project=$projectid \
--machine-type=e2-micro \
--image-family debian-11 \
--no-address \
--shielded-secure-boot \
--image-project debian-cloud \
--zone us-central1-a \
--subnet=consumer-vm-subnet
৭. প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্ট
গ্রাহক তাদের VPC-এর মধ্যে একটি অভ্যন্তরীণ IP ঠিকানা সহ একটি গ্রাহক শেষ বিন্দু (ফরওয়ার্ডিং নিয়ম) তৈরি করে। এই PSC শেষ বিন্দুটি প্রযোজকের পরিষেবা সংযুক্তিকে লক্ষ্য করে। গ্রাহক VPC বা হাইব্রিড নেটওয়ার্কের মধ্যে থাকা ক্লায়েন্টরা প্রযোজকের পরিষেবায় পৌঁছানোর জন্য এই অভ্যন্তরীণ IP ঠিকানায় ট্র্যাফিক পাঠাতে পারে।
গ্রাহকের শেষ বিন্দুর জন্য একটি IP ঠিকানা সংরক্ষণ করুন।
ক্লাউড শেলের ভিতরে, ফরোয়ার্ডিং নিয়ম তৈরি করুন।
gcloud compute addresses create psc-address \
--project=$projectid \
--region=us-central1 \
--subnet=pscendpoint-subnet \
--addresses=10.10.10.6
যাচাই করুন যে আইপি ঠিকানাটি সংরক্ষিত আছে
ক্লাউড শেলের ভিতরে, সংরক্ষিত আইপি ঠিকানাটি তালিকাভুক্ত করুন।
gcloud compute addresses list
তুমি ১০.১০.১০.৬ আইপি ঠিকানাটি সংরক্ষিত দেখতে পাবে।
পূর্ববর্তী ধাপে, ডিপ্লোয় মডেল বিভাগে ক্যাপচার করা পরিষেবা সংযুক্তি URI, target-service-attachment উল্লেখ করে গ্রাহক শেষ বিন্দু তৈরি করুন।
ক্লাউড শেলের ভিতরে, নেটওয়ার্ক সংযুক্তি বর্ণনা করুন।
gcloud compute forwarding-rules create psc-consumer-ep \
--network=consumer-vpc \
--address=psc-address \
--region=us-central1 \
--target-service-attachment=$Service_attachment \
--project=$projectid
পরিষেবা সংযুক্তিটি শেষবিন্দু গ্রহণ করে কিনা তা যাচাই করুন।
gcloud compute forwarding-rules describe psc-consumer-ep \
--project=$projectid \
--region=us-central1 \
উত্তরে, pscConnectionStatus ক্ষেত্রে "ACCEPTED" স্ট্যাটাসটি আছে কিনা তা যাচাই করুন।
৮. কনজিউমার ভিএম থেকে পরীক্ষা
ক্লাউড শেলে, ভার্টেক্স মডেল গার্ডেন এপিআই অ্যাক্সেস করার জন্য কনজিউমার ভিএম অ্যাক্সেস প্রদানের জন্য নিম্নলিখিত পদক্ষেপগুলি সম্পাদন করুন।
SSH কে কনজিউমার VM-এ রূপান্তর করা হচ্ছে
অ্যাপ্লিকেশন ডিফল্ট শংসাপত্রের সাহায্যে পুনরায় প্রমাণীকরণ করুন এবং ভার্টেক্স এআই স্কোপগুলি নির্দিষ্ট করুন।
gcloud auth application-default login
--scopes=https://www.googleapis.com/auth/cloud-platform
নিচের টেবিলটি ব্যবহার করে একটি CURLl কমান্ড তৈরি করুন, আপনার পরিবেশের উপর ভিত্তি করে সামঞ্জস্য করুন।
বৈশিষ্ট্য | মূল্য |
প্রোটোকল | HTTP সম্পর্কে |
স্থান | ইউএস-সেন্ট্রাল১ |
অনলাইন ভবিষ্যদ্বাণীর শেষ বিন্দু | ২১৩৩৫৩৯৬৪১৫৩৬৫৪৪৭৬৮ |
প্রকল্প আইডি | পরীক্ষা৪-৪৭৩৪১৯ |
মডেল | জেমা-৩-১২বি-ইট |
প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্ট আইপি | ১০.১০.১০.৬ |
বার্তা | [{"role": "user","content": "১ পাউন্ড পালক নাকি পাথরের ওজন বেশি?"}] |
আপনার পরিবেশের বিবরণের উপর ভিত্তি করে curl কমান্ডটি আপডেট এবং কার্যকর করুন:
curl -k -v -X POST -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" http://[PSC-IP]/v1/projects/[Project-ID]/locations/us-central1/endpoints/[Predictions Endpoint]/chat/completions -d '{"model": "google/gemma-3-12b-it", "messages": [{"role": "user","content": "What weighs more 1 pound of feathers or rocks?"}] }'
উদাহরণ:
curl -k -v -X POST -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" http://10.10.10.6/v1/projects/test4-473419/locations/us-central1/endpoints/2133539641536544768/chat/completions -d '{"model": "google/gemma-3-12b-it", "messages": [{"role": "user","content": "What weighs more 1 pound of feathers or rocks?"}] }'
চূড়ান্ত ফলাফল - সাফল্য!!!
আউটপুটের নীচে Gemma 3 থেকে আপনি যে ফলাফলটি দেখতে পাবেন, এটি দেখায় যে আপনি PSC এন্ডপয়েন্টের মাধ্যমে ব্যক্তিগতভাবে API এন্ডপয়েন্টে পৌঁছাতে সক্ষম হয়েছেন।
Connection #0 to host 10.10.10.6 left intact
{"id":"chatcmpl-9e941821-65b3-44e4-876c-37d81baf62e0","object":"chat.completion","created":1759009221,"model":"google/gemma-3-12b-it","choices":[{"index":0,"message":{"role":"assistant","reasoning_content":null,"content":"This is a classic trick question! They weigh the same. One pound is one pound, regardless of the material. 😊\n\n\n\n","tool_calls":[]},"logprobs":null,"finish_reason":"stop","stop_reason":106}],"usage":{"prompt_tokens":20,"total_tokens":46,"completion_tokens":26,"prompt_tokens_details":null},"prompt_logprobs":null
9. পরিষ্কার করা
ক্লাউড শেল থেকে, টিউটোরিয়াল উপাদানগুলি মুছুন।
gcloud ai endpoints undeploy-model ENDPOINT_ID --deployed-model-id=DEPLOYED_MODEL_ID --region=us-central1 --quiet
gcloud ai endpoints delete $ENDPOINT_ID --project=$projectid --region=us-central1 --quiet
gcloud ai models delete $MODEL_ID --project=$projectid --region=us-central1 --quiet
gcloud compute instances delete consumer-vm --zone=us-central1-a --quiet
gcloud compute forwarding-rules delete psc-consumer-ep --region=us-central1 --project=$projectid --quiet
gcloud compute addresses delete psc-address --region=us-central1 --project=$projectid --quiet
gcloud compute networks subnets delete pscendpoint-subnet consumer-vm-subnet --region=us-central1 --quiet
gcloud compute firewall-rules delete ssh-iap-consumer --project=$projectid
gcloud compute networks delete consumer-vpc --project=$projectid --quiet
gcloud projects delete $projectid --quiet
১০. অভিনন্দন
অভিনন্দন, আপনি একটি প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্ট ব্যবহার করে Vertex AI Prediction-এ হোস্ট করা Gemma 3 API-তে ব্যক্তিগত অ্যাক্সেস সফলভাবে কনফিগার এবং যাচাই করেছেন।
আপনি গ্রাহক পরিকাঠামো তৈরি করেছেন, যার মধ্যে একটি অভ্যন্তরীণ IP ঠিকানা সংরক্ষণ করা এবং আপনার VPC-এর মধ্যে একটি Private Service Connect Endpoint (একটি ফরোয়ার্ডিং নিয়ম) কনফিগার করা অন্তর্ভুক্ত। এই এন্ডপয়েন্টটি আপনার স্থাপন করা Gemma 3 মডেলের সাথে সম্পর্কিত পরিষেবা সংযুক্তিকে লক্ষ্য করে Vertex AI পরিষেবার সাথে নিরাপদে সংযোগ স্থাপন করে। এই সেটআপটি VPC বা সংযুক্ত নেটওয়ার্কগুলির মধ্যে থাকা আপনার অ্যাপ্লিকেশনগুলিকে Gemma 3 API-এর সাথে ব্যক্তিগতভাবে এবং নিরাপদে ইন্টারঅ্যাক্ট করার অনুমতি দেয়, একটি অভ্যন্তরীণ IP ঠিকানা ব্যবহার করে, পাবলিক ইন্টারনেট অতিক্রম করার জন্য ট্র্যাফিকের প্রয়োজন ছাড়াই।