ক্লাউড এসকিউএল ডাটাবেস এবং ল্যাংচেইন ব্যবহার করে একটি LLM এবং RAG-ভিত্তিক চ্যাট অ্যাপ্লিকেশন তৈরি করা

১. ভূমিকা

এই কোডল্যাবে আপনি শিখবেন কীভাবে GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা (GenAI Databases Retrieval Service) স্থাপন করতে হয় এবং স্থাপিত পরিবেশটি ব্যবহার করে একটি নমুনা ইন্টারেক্টিভ অ্যাপ্লিকেশন তৈরি করতে হয়।

8727a44c8c402834.png

আপনি এখানে GenAI Retrieval Service এবং নমুনা অ্যাপ্লিকেশন সম্পর্কে আরও তথ্য পেতে পারেন।

পূর্বশর্ত

  • গুগল ক্লাউড কনসোল সম্পর্কে প্রাথমিক ধারণা
  • কমান্ড লাইন ইন্টারফেস এবং গুগল ক্লাউড শেলে প্রাথমিক দক্ষতা

আপনি যা শিখবেন

  • ক্লাউড এসকিউএল ইনস্ট্যান্স কীভাবে তৈরি করবেন
  • ইনস্ট্যান্সে কীভাবে সংযোগ করবেন
  • GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা কীভাবে কনফিগার এবং স্থাপন করবেন
  • ডেপ্লয়েড সার্ভিস ব্যবহার করে কীভাবে একটি নমুনা অ্যাপ্লিকেশন ডেপ্লয় করবেন

আপনার যা যা লাগবে

  • একটি গুগল ক্লাউড অ্যাকাউন্ট এবং গুগল ক্লাউড প্রজেক্ট
  • ক্রোমের মতো একটি ওয়েব ব্রাউজার

২. সেটআপ এবং প্রয়োজনীয়তা

স্ব-গতিতে পরিবেশ সেটআপ

  1. Google Cloud Console- এ সাইন-ইন করুন এবং একটি নতুন প্রজেক্ট তৈরি করুন অথবা বিদ্যমান কোনো প্রজেক্ট পুনরায় ব্যবহার করুন। যদি আপনার আগে থেকে Gmail বা Google Workspace অ্যাকাউন্ট না থাকে, তবে আপনাকে অবশ্যই একটি তৈরি করতে হবে।

fbef9caa1602edd0.png

a99b7ace416376c4.png

5e3ff691252acf41.png

  • প্রজেক্টের নামটি হলো এই প্রজেক্টের অংশগ্রহণকারীদের প্রদর্শিত নাম। এটি একটি ক্যারেক্টার স্ট্রিং যা গুগল এপিআই ব্যবহার করে না। আপনি যেকোনো সময় এটি আপডেট করতে পারেন।
  • প্রজেক্ট আইডি সমস্ত গুগল ক্লাউড প্রজেক্ট জুড়ে অনন্য এবং অপরিবর্তনীয় (একবার সেট করার পর এটি পরিবর্তন করা যায় না)। ক্লাউড কনসোল স্বয়ংক্রিয়ভাবে একটি অনন্য স্ট্রিং তৈরি করে; সাধারণত এটি কী তা নিয়ে আপনার মাথা ঘামানোর দরকার নেই। বেশিরভাগ কোডল্যাবে, আপনাকে আপনার প্রজেক্ট আইডি উল্লেখ করতে হবে (যা সাধারণত PROJECT_ID হিসাবে চিহ্নিত করা হয়)। তৈরি করা আইডিটি আপনার পছন্দ না হলে, আপনি এলোমেলোভাবে আরেকটি তৈরি করতে পারেন। বিকল্পভাবে, আপনি আপনার নিজের আইডি দিয়ে চেষ্টা করে দেখতে পারেন যে সেটি উপলব্ধ আছে কিনা। এই ধাপের পরে এটি পরিবর্তন করা যাবে না এবং প্রজেক্টের পুরো সময়কাল জুড়ে এটি অপরিবর্তিত থাকবে।
  • আপনার অবগতির জন্য জানাচ্ছি যে, তৃতীয় একটি ভ্যালু রয়েছে, যা হলো প্রজেক্ট নম্বর , এবং কিছু এপিআই এটি ব্যবহার করে থাকে। ডকুমেন্টেশনে এই তিনটি ভ্যালু সম্পর্কে আরও বিস্তারিত জানুন।
  1. এরপর, ক্লাউড রিসোর্স/এপিআই ব্যবহার করার জন্য আপনাকে ক্লাউড কনসোলে বিলিং চালু করতে হবে। এই কোডল্যাবটি সম্পন্ন করতে খুব বেশি খরচ হবে না, এমনকি আদৌ কোনো খরচ নাও হতে পারে। এই টিউটোরিয়ালের পর বিলিং এড়াতে রিসোর্সগুলো বন্ধ করার জন্য, আপনি আপনার তৈরি করা রিসোর্সগুলো অথবা প্রজেক্টটি ডিলিট করে দিতে পারেন। নতুন গুগল ক্লাউড ব্যবহারকারীরা ৩০০ মার্কিন ডলারের ফ্রি ট্রায়াল প্রোগ্রামের জন্য যোগ্য।

ক্লাউড শেল শুরু করুন

যদিও গুগল ক্লাউড আপনার ল্যাপটপ থেকে দূরবর্তীভাবে পরিচালনা করা যায়, এই কোডল্যাবে আপনি গুগল ক্লাউড শেল ব্যবহার করবেন, যা ক্লাউডে চালিত একটি কমান্ড লাইন পরিবেশ।

গুগল ক্লাউড কনসোল থেকে, উপরের ডানদিকের টুলবারে থাকা ক্লাউড শেল আইকনটিতে ক্লিক করুন:

55efc1aaa7a4d3ad.png

পরিবেশটি প্রস্তুত করতে এবং এর সাথে সংযোগ স্থাপন করতে মাত্র কয়েক মুহূর্ত সময় লাগবে। এটি শেষ হলে, আপনি এইরকম কিছু দেখতে পাবেন:

7ffe5cbb04455448.png

এই ভার্চুয়াল মেশিনটিতে আপনার প্রয়োজনীয় সমস্ত ডেভেলপমেন্ট টুলস লোড করা আছে। এটি একটি স্থায়ী ৫ জিবি হোম ডিরেক্টরি প্রদান করে এবং গুগল ক্লাউডে চলে, যা নেটওয়ার্ক পারফরম্যান্স ও অথেনটিকেশনকে ব্যাপকভাবে উন্নত করে। এই কোডল্যাবে আপনার সমস্ত কাজ একটি ব্রাউজারের মধ্যেই করা যাবে। আপনাকে কিছুই ইনস্টল করতে হবে না।

৩. শুরু করার আগে

এপিআই সক্ষম করুন

ক্লাউড শেলের ভিতরে, নিশ্চিত করুন যে আপনার প্রজেক্ট আইডি সেটআপ করা আছে:

সাধারণত ক্লাউড শেলের কমান্ড প্রম্পটে প্রজেক্ট আইডিটি বন্ধনীর মধ্যে দেখানো হয়, যেমনটি ছবিতে দেখানো হয়েছে:

fa6ee779963405d5.png

gcloud config set project [YOUR-PROJECT-ID]

এরপর PROJECT_ID এনভায়রনমেন্ট ভেরিয়েবলটি আপনার গুগল ক্লাউড প্রজেক্ট আইডিতে সেট করুন:

PROJECT_ID=$(gcloud config get-value project)

সকল প্রয়োজনীয় পরিষেবা সক্রিয় করুন:

gcloud services enable sqladmin.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ gcloud services enable sqladmin.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com
Operation "operations/acf.p2-404051529011-664c71ad-cb2b-4ab4-86c1-1f3157d70ba1" finished successfully.

৪. একটি ক্লাউড এসকিউএল ইনস্ট্যান্স তৈরি করুন

ভেক্টর সাপোর্ট সক্রিয় করে একটি ক্লাউড এসকিউএল ইনস্ট্যান্স তৈরি করুন।

একটি পাসওয়ার্ড তৈরি করুন

ডিফল্ট ডাটাবেস ব্যবহারকারীর জন্য পাসওয়ার্ড নির্ধারণ করুন। আপনি নিজের পাসওয়ার্ড নির্ধারণ করতে পারেন অথবা একটি র‍্যান্ডম ফাংশন ব্যবহার করে তা তৈরি করতে পারেন।

export CLOUDSQL_PASSWORD=`openssl rand -hex 12`

পাসওয়ার্ডের জন্য তৈরি হওয়া মানটি নোট করুন।

echo $CLOUDSQL_PASSWORD

MySQL

ইনস্ট্যান্স তৈরির সময় আপনি cloudsql_vector ফ্ল্যাগটি সক্রিয় করতে পারেন। বর্তমানে, MySQL 8.0.36 এবং 8.0.37-এ ভেক্টর সাপোর্ট দেওয়া হয়।

export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=MYSQL_8_0_36 --database-flags=cloudsql_vector=ON --root-password=$CLOUDSQL_PASSWORD

প্রত্যাশিত কনসোল আউটপুট (আইপি ঠিকানা গোপন রাখা হয়েছে):

student@cloudshell:~ export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=MYSQL_8_0_36 --database-flags=cloudsql_vector=ON --root-password=$CLOUDSQL_PASSWORD
Creating Cloud SQL instance for MYSQL_8_0_36...done.                                                                                                                                 
Created [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].
NAME                   DATABASE_VERSION  LOCATION       TIER             PRIMARY_ADDRESS  PRIVATE_ADDRESS  STATUS
my-cloudsql-instance  MYSQL_8_0_36      us-central1-a  db-n1-standard-1  00.000.00.00   -                RUNNABLE

পোস্টগ্রেসকিউএল

pgvector এক্সটেনশনটি 11 বা তার পরবর্তী সংস্করণগুলিতে উপলব্ধ।

export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=POSTGRES_15 --tier=db-g1-small

প্রত্যাশিত কনসোল আউটপুট (আইপি ঠিকানা গোপন রাখা হয়েছে):

student@cloudshell:~ export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=POSTGRES_15 --tier=db-g1-small
Creating Cloud SQL instance for POSTGRES_15...done.                                                                                                                                  
Created [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].
NAME                   DATABASE_VERSION  LOCATION       TIER         PRIMARY_ADDRESS  PRIVATE_ADDRESS  STATUS
my-cloudsql-instance  POSTGRES_15       us-central1-a  db-g1-small  00.000.00.00     -                RUNNABLE

ইনস্ট্যান্স তৈরি করার পর, ইনস্ট্যান্সের ডিফল্ট ব্যবহারকারীর জন্য একটি পাসওয়ার্ড নির্ধারণ করতে হবে এবং সেই পাসওয়ার্ড দিয়ে সংযোগ করা যাচ্ছে কিনা তা পরীক্ষা করতে হবে। সংযোগ করার জন্য প্রস্তুত হলে প্রম্পটে আপনার পাসওয়ার্ডটি দিন।

gcloud sql users set-password postgres \
    --instance=my-cloudsql-instance \
    --password=$CLOUDSQL_PASSWORD
gcloud sql connect my-cloudsql-instance --user=postgres

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ gcloud sql users set-password postgres \
    --instance=my-cloudsql-instance \
    --password=$CLOUDSQL_PASSWORD
gcloud sql connect my-cloudsql-instance --user=postgres
Updating Cloud SQL user...done.                                                                                                                                                                                                                                            
Allowlisting your IP for incoming connection for 5 minutes...done.                                                                                                                                                                                                         
Connecting to database with SQL user [postgres].Password: 
psql (16.3 (Ubuntu 16.3-1.pgdg22.04+1), server 15.7)
SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, compression: off)
Type "help" for help.

postgres=>

psql সেশন থেকে প্রস্থান করুন:

exit

৫. জিসিই ভার্চুয়াল মেশিন প্রস্তুত করুন

পরিষেবা অ্যাকাউন্ট তৈরি করুন

যেহেতু আমরা আমাদের VM-টি GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা স্থাপন করতে এবং একটি নমুনা অ্যাপ্লিকেশন হোস্ট করতে ব্যবহার করব, তাই প্রথম ধাপ হলো একটি গুগল সার্ভিস অ্যাকাউন্ট (GSA) তৈরি করা। GSA-টি GCE VM দ্বারা ব্যবহৃত হবে, এবং অন্যান্য পরিষেবার সাথে কাজ করার জন্য আমাদের এটিকে প্রয়োজনীয় বিশেষাধিকার প্রদান করতে হবে।

ক্লাউড শেলে নিম্নলিখিতটি চালান:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create compute-aip --project $PROJECT_ID
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudbuild.builds.editor"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/artifactregistry.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/storage.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/run.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/iam.serviceAccountUser"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.viewer"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.client"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"

GCE VM স্থাপন করুন

ক্লাউড SQL ইনস্ট্যান্সের মতো একই অঞ্চল এবং VPC-তে একটি GCE VM তৈরি করুন।

ক্লাউড শেলে চালান:

export ZONE=us-central1-a
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform \
  --service-account=compute-aip@$PROJECT_ID.iam.gserviceaccount.com

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform

Created [https://www.googleapis.com/compute/v1/projects/test-project-402417/zones/us-central1-a/instances/instance-1].
NAME: instance-1
ZONE: us-central1-a
MACHINE_TYPE: n1-standard-1
PREEMPTIBLE: 
INTERNAL_IP: 10.128.0.2
EXTERNAL_IP: 34.71.192.233
STATUS: RUNNING

ক্লাউড SQL-এ সংযোগ করার জন্য VM-কে অনুমোদন দিন।

আমাদের ক্লাউড SQL ইনস্ট্যান্সের জন্য অনুমোদিত নেটওয়ার্কের তালিকায় আমাদের VM পাবলিক IP যোগ করতে হবে। ক্লাউড শেলে নিম্নলিখিত কমান্ডটি চালান:

VM_EXTERNAL_IP=$(gcloud compute instances describe instance-1 --zone=us-central1-a --format='get(networkInterfaces[0].accessConfigs[0].natIP)')
gcloud sql instances patch my-cloudsql-instance --authorized-networks=$VM_EXTERNAL_IP

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
student@cloudshell:~ (test-project-402417)$ VM_EXTERNAL_IP=$(gcloud compute instances describe instance-1 --zone=us-central1-a --format='get(networkInterfaces[0].accessConfigs[0].natIP)')
gcloud sql instances patch my-cloudsql-instance --authorized-networks=$VM_EXTERNAL_IP
When adding a new IP address to authorized networks, make sure to also include any IP addresses that have already been authorized. Otherwise, they will be overwritten and de-authorized.

Do you want to continue (Y/n)?  Y

The following message will be used for the patch API method.
{"name": "my-cloudsql-instance", "project": "test-project-402417", "settings": {"ipConfiguration": {"authorizedNetworks": [{"value": "34.71.252.173"}]}}}
Patching Cloud SQL instance...done.                                                                                                                                                                                     
Updated [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].

ডাটাবেস ক্লায়েন্ট ইনস্টল করুন

MySQL

ডেপ্লয় করা ভিএম-এ MySQL ক্লায়েন্ট সফটওয়্যারটি ইনস্টল করুন।

ভিএম-এ সংযোগ করুন:

gcloud compute ssh instance-1 --zone=us-central1-a

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Updating project ssh metadata...working..Updated [https://www.googleapis.com/compute/v1/projects/test-project-402417].                                                                                                                                                         
Updating project ssh metadata...done.                                                                                                                                                                                                                                              
Waiting for SSH key to propagate.
Warning: Permanently added 'compute.5110295539541121102' (ECDSA) to the list of known hosts.
Linux instance-1 5.10.0-26-cloud-amd64 #1 SMP Debian 5.10.197-1 (2023-09-29) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$ 

ভিএম-এর ভিতরে কমান্ডটি চালিয়ে সফ্টওয়্যারটি ইনস্টল করুন:

sudo apt-get update
sudo apt-get install --yes default-mysql-client

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ sudo apt-get update
sudo apt-get install --yes mysql-client
Reading package lists... Done
Building dependency tree... Done
Reading state information... Done
The following additional packages will be installed:
  libconfig-inifiles-perl libdbd-mariadb-perl libdbi-perl libgdbm-compat4 libperl5.32 libterm-readkey-perl mariadb-client-10.5 mariadb-client-core-10.5 perl perl-modules-5.32
Suggested packages:
  libclone-perl libmldbm-perl libnet-daemon-perl libsql-statement-perl perl-doc libterm-readline-gnu-perl | libterm-readline-perl-perl make libtap-harness-archive-perl
The following NEW packages will be installed:
  default-mysql-client libconfig-inifiles-perl libdbd-mariadb-perl libdbi-perl libgdbm-compat4 libperl5.32 libterm-readkey-perl mariadb-client-10.5 mariadb-client-core-10.5 perl
  Perl-modules-5.32
...redacted...
Processing triggers for libc-bin (2.31-13+deb11u10) ...

পোস্টগ্রেসকিউএল

ডেপ্লয় করা ভিএম-এ PostgreSQL ক্লায়েন্ট সফটওয়্যারটি ইনস্টল করুন।

ভিএম-এ সংযোগ করুন:

gcloud compute ssh instance-1 --zone=us-central1-a

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Updating project ssh metadata...working..Updated [https://www.googleapis.com/compute/v1/projects/test-project-402417].                                                                                                                                                         
Updating project ssh metadata...done.                                                                                                                                                                                                                                              
Waiting for SSH key to propagate.
Warning: Permanently added 'compute.5110295539541121102' (ECDSA) to the list of known hosts.
Linux instance-1 5.10.0-26-cloud-amd64 #1 SMP Debian 5.10.197-1 (2023-09-29) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$ 

ভিএম-এর ভিতরে কমান্ডটি চালিয়ে সফ্টওয়্যারটি ইনস্টল করুন:

sudo apt-get update
sudo apt-get install --yes postgresql-client

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ sudo apt-get update
sudo apt-get install --yes postgresql-client
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
Get:4 file:/etc/apt/mirrors/debian-security.list Mirrorlist [39 B]
Hit:7 https://packages.cloud.google.com/apt google-compute-engine-bookworm-stable InRelease
Get:8 https://packages.cloud.google.com/apt cloud-sdk-bookworm InRelease [1652 B]
Get:2 https://deb.debian.org/debian bookworm InRelease [151 kB]
Get:3 https://deb.debian.org/debian bookworm-updates InRelease [55.4 kB]
...redacted...
update-alternatives: using /usr/share/postgresql/15/man/man1/psql.1.gz to provide /usr/share/man/man1/psql.1.gz (psql.1.gz) in auto mode
Setting up postgresql-client (15+248) ...
Processing triggers for man-db (2.11.2-2) ...
Processing triggers for libc-bin (2.36-9+deb12u7) ...

ইনস্ট্যান্সের সাথে সংযোগ করুন

MySQL

ভিএম থেকে MySQL ব্যবহার করে প্রাইমারি ইনস্ট্যান্সের সাথে সংযোগ করুন।

আপনার ভিএম-এ খোলা SSH সেশনটি চালিয়ে যান। যদি সংযোগ বিচ্ছিন্ন হয়ে যায়, তাহলে উপরের কমান্ডটি ব্যবহার করে আবার সংযোগ করুন।

GCE VM থেকে Cloud SQL-এ সংযোগ করতে পূর্বে উল্লিখিত $CLOUDSQL_PASSWORD এবং ইনস্ট্যান্সের নামটি ব্যবহার করুন:

export CLOUDSQL_PASSWORD=<Noted password>
export PROJECT_ID=$(gcloud config get-value project)
export REGION=us-central1
export INSTANCE_NAME=my-cloudsql-instance
export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
mysql --host=$INSTANCE_IP --user=root --password=$CLOUDSQL_PASSWORD

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ export CLOUDSQL_PASSWORD=P9...
student@instance-1:~$ export REGION=us-central1
student@instance-1:~$ export INSTANCE_NAME=my-cloud-sql-instance
student@instance-1:~$ export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
student@instance-1:~$ mysql  –host=$INSTANCE_IP –user=root –password=$CLOUDSQL_PASSWORD –sslmode=require 
Welcome to the MariaDB monitor.  Commands end with ; or \g.
Your MySQL connection id is 2824706
Server version: 8.0.36-google (Google)

Copyright (c) 2000, 2018, Oracle, MariaDB Corporation Ab and others.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

MySQL [(none)]>

SSH সংযোগ চালু রেখে MySQL সেশন থেকে প্রস্থান করুন:

exit

প্রত্যাশিত কনসোল আউটপুট:

MySQL [(none)]> exit
Bye
student@instance-1:~$ 

পোস্টগ্রেসকিউএল

psql ব্যবহার করে VM থেকে প্রাইমারি ইনস্ট্যান্সে সংযোগ করুন।

আপনার ভিএম-এ খোলা SSH সেশনটি চালিয়ে যান। যদি সংযোগ বিচ্ছিন্ন হয়ে যায়, তাহলে উপরের কমান্ডটি ব্যবহার করে আবার সংযোগ করুন।

GCE VM থেকে PostgreSQL-এ সংযোগ করতে পূর্বে উল্লিখিত $CLOUDSQL_PASSWORD এবং ইনস্ট্যান্সের নামটি ব্যবহার করুন:

export PGPASSWORD=<Noted password (CLOUDSQL_PASSWORD)>
export CLOUDSQL_PASSWORD=$PGPASSWORD
export PROJECT_ID=$(gcloud config get-value project)
export REGION=us-central1
export INSTANCE_NAME=my-cloudsql-instance
export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
psql "host=$INSTANCE_IP user=postgres sslmode=require"

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ export CLOUDSQL_PASSWORD=P9...
student@instance-1:~$ export REGION=us-central1
student@instance-1:~$ export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres sslmode=require"
psql (13.11 (Debian 13.11-0+deb11u1), server 14.7)
WARNING: psql major version 13, server major version 14.
         Some psql features might not work.
SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, bits: 256, compression: off)
Type "help" for help.

postgres=> 

SSH সংযোগ চালু রেখে psql সেশন থেকে প্রস্থান করুন:

exit

প্রত্যাশিত কনসোল আউটপুট:

postgres=> exit
student@instance-1:~$ 

৬. ডাটাবেস প্রারম্ভিকীকরণ করুন।

আমরা আমাদের ক্লায়েন্ট ভিএম-কে একটি প্ল্যাটফর্ম হিসেবে ব্যবহার করে ডাটাবেসে ডেটা যুক্ত করব এবং আমাদের অ্যাপ্লিকেশনটি হোস্ট করব। প্রথম ধাপ হলো একটি ডাটাবেস তৈরি করা এবং তাতে ডেটা যুক্ত করা।

ডাটাবেস তৈরি করুন

MySQL

'assistantdemo' নামে একটি ডাটাবেস তৈরি করুন।

GCE VM সেশনে নিম্নলিখিতটি সম্পাদন করুন:

mysql --host=$INSTANCE_IP  --user=root --password=$CLOUDSQL_PASSWORD -e "CREATE DATABASE assistantdemo"

প্রত্যাশিত কনসোল আউটপুট (কোনো আউটপুট নেই):

student@instance-1:~$ mysql --host=$INSTANCE_IP  --user=root --password=$CLOUDSQL_PASSWORD -e "CREATE DATABASE assistantdemo"
student@instance-1:~$  

পোস্টগ্রেসকিউএল

'assistantdemo' নামে একটি ডাটাবেস তৈরি করুন।

GCE VM সেশনে নিম্নলিখিতটি সম্পাদন করুন:

psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"  

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"
CREATE DATABASE
student@instance-1:~$  

pgvector এক্সটেনশনটি সক্রিয় করুন।

psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "CREATE EXTENSION vector"  

প্রত্যাশিত কনসোল আউটপুট (কোনো আউটপুট নেই):

student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "CREATE EXTENSION vector"
CREATE EXTENSION
student@instance-1:~$

পাইথন পরিবেশ প্রস্তুত করুন

এরপর আমরা গিটহাব রিপোজিটরি থেকে তৈরি পাইথন স্ক্রিপ্ট ব্যবহার করব, কিন্তু তার আগে আমাদের প্রয়োজনীয় সফটওয়্যার ইনস্টল করতে হবে।

GCE VM-এ নিম্নলিখিতটি চালান:

sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip
Reading package lists... Done
Building dependency tree... Done
Reading state information... Done
The following additional packages will be installed:
  git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl
Suggested packages:
  git-daemon-run | git-daemon-sysvinit git-doc git-email git-gui gitk gitweb git-cvs git-mediawiki git-svn ed diffutils-doc
The following NEW packages will be installed:
  git git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl python3.11-venv
0 upgraded, 9 newly installed, 0 to remove and 2 not upgraded.
Need to get 12.4 MB of archives.
After this operation, 52.2 MB of additional disk space will be used.
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
...redacted...
Installing collected packages: pip
  Attempting uninstall: pip
    Found existing installation: pip 23.0.1
    Uninstalling pip-23.0.1:
      Successfully uninstalled pip-23.0.1
Successfully installed pip-24.0
(.venv) student@instance-1:~$

পাইথন সংস্করণ যাচাই করুন।

GCE VM-এ নিম্নলিখিতটি চালান:

python -V

প্রত্যাশিত কনসোল আউটপুট:

(.venv) student@instance-1:~$ python -V
Python 3.11.2
(.venv) student@instance-1:~$ 

কনফিগারেশন ফাইল প্রস্তুত করুন

ডেটা পুনরুদ্ধার পরিষেবা এবং নমুনা অ্যাপ্লিকেশনের কোডসহ গিটহাব রিপোজিটরিটি ক্লোন করুন।

GCE VM-এ নিম্নলিখিতটি চালান:

git clone https://github.com/GoogleCloudPlatform/genai-databases-retrieval-app.git

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ git clone https://github.com/GoogleCloudPlatform/genai-databases-retrieval-app.git
Cloning into 'genai-databases-retrieval-app'...
remote: Enumerating objects: 525, done.
remote: Counting objects: 100% (336/336), done.
remote: Compressing objects: 100% (201/201), done.
remote: Total 525 (delta 224), reused 179 (delta 135), pack-reused 189
Receiving objects: 100% (525/525), 46.58 MiB | 16.16 MiB/s, done.
Resolving deltas: 100% (289/289), done.

MySQL

GCE VM-এ নিম্নলিখিতটি চালান:

cd ~/genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
cp example-config-cloudsql.yml config.yml
sed -i s/engine/mysql/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password//g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/root/g config.yml
cat config.yml

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ cd genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/127.0.0.1/$INSTANCE_IP/g config.yml
sed -i s/my-password/$CLOUDSQL_PASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml
host: 0.0.0.0
# port: 8080
datastore:
  # Example for MySQL
  kind: "cloudsql-mysql"
  host: 10.65.0.2
  # port: 5432
  database: "assistantdemo"
  user: "root"
  password: "P9..."

পোস্টগ্রেস

GCE VM-এ নিম্নলিখিতটি চালান:

cd ~/genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/engine/postgres/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password/$PGPASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ cd genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/engine/postgres/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password/$CLOUDSQL_PASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml
host: 0.0.0.0
# port: 8080
datastore:
  # Example for Postgres
  kind: "cloudsql-postgres"
  host: 10.65.0.2
  # port: 5432
  database: "assistantdemo"
  user: "postgres"
  password: "P9..."

ডাটাবেস পূরণ করুন

নমুনা ডেটাসেট দিয়ে ডাটাবেসটি পূরণ করুন। প্রথম কমান্ডটি আমাদের পাইথন ভার্চুয়াল এনভায়রনমেন্টে সমস্ত প্রয়োজনীয় প্যাকেজ যুক্ত করছে এবং দ্বিতীয় কমান্ডটি ডেটা দিয়ে আমাদের ডাটাবেসটি পূরণ করছে।

GCE VM-এ নিম্নলিখিতটি চালান:

cd ~/genai-databases-retrieval-app/retrieval_service
pip install -r requirements.txt
python run_database_init.py

প্রত্যাশিত কনসোল আউটপুট (সংশোধিত):

student@instance-1:~/genai-databases-retrieval-app/retrieval_service$ pip install -r requirements.txt
python run_database_init.py
Collecting asyncpg==0.28.0 (from -r requirements.txt (line 1))
  Obtaining dependency information for asyncpg==0.28.0 from https://files.pythonhosted.org/packages/77/a4/88069f7935b14c58534442a57be3299179eb46aace2d3c8716be199ff6a6/asyncpg-0.28.0-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl.metadata
  Downloading asyncpg-0.28.0-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl.metadata (4.3 kB)
Collecting fastapi==0.101.1 (from -r requirements.txt (line 2))
...
database init done.
student@instance-1:~/genai-databases-retrieval-app/retrieval_service$

৭. ক্লাউড রান-এ রিট্রিভাল সার্ভিসটি স্থাপন করুন

এখন আমরা ক্লাউড রান-এ ডেটা পুনরুদ্ধার পরিষেবাটি স্থাপন করতে পারি। এই পরিষেবাটির দায়িত্ব হলো ডাটাবেসের সাথে কাজ করা এবং একটি এআই অ্যাপ্লিকেশনের অনুরোধের ভিত্তিতে ডাটাবেস থেকে প্রয়োজনীয় তথ্য বের করে আনা।

পরিষেবা অ্যাকাউন্ট তৈরি করুন

পুনরুদ্ধার পরিষেবার জন্য একটি পরিষেবা অ্যাকাউন্ট তৈরি করুন এবং প্রয়োজনীয় বিশেষাধিকার প্রদান করুন।

উপরে থাকা "+" চিহ্নটি ব্যবহার করে আরেকটি ক্লাউড শেল ট্যাব খুলুন।

4ca978f5142bb6ce.png

নতুন ক্লাউড শেল ট্যাবে নিম্নলিখিতটি চালান:

export PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create retrieval-identity
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"
gcloud projects add-iam-policy-binding $PROJECT_ID \
--member="serviceAccount:retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.client"

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-003)$ gcloud iam service-accounts create retrieval-identity
Created service account [retrieval-identity].

ট্যাবের মধ্যে থাকা 'exit' কমান্ডটি চালিয়ে ট্যাবটি বন্ধ করুন:

exit

পুনরুদ্ধার পরিষেবাটি স্থাপন করুন

প্রথম ট্যাবে, যেখানে আপনি SSH-এর মাধ্যমে VM-এর সাথে সংযুক্ত আছেন, সার্ভিসটি ডিপ্লয় করে কাজ চালিয়ে যান।

ভিএম এসএসএইচ সেশনে নিম্নলিখিতটি চালান:

cd ~/genai-databases-retrieval-app
gcloud alpha run deploy retrieval-service \
    --source=./retrieval_service/\
    --no-allow-unauthenticated \
    --service-account retrieval-identity \
    --region us-central1 \
    --network=default \
    --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~/genai-databases-retrieval-app$ gcloud alpha run deploy retrieval-service \
    --source=./retrieval_service/\
    --no-allow-unauthenticated \
    --service-account retrieval-identity \
    --region us-central1 \
    --network=default
This command is equivalent to running `gcloud builds submit --tag [IMAGE] ./retrieval_service/` and `gcloud run deploy retrieval-service --image [IMAGE]`

Building using Dockerfile and deploying container to Cloud Run service [retrieval-service] in project [gleb-test-short-003] region [us-central1]
X Building and deploying... Done.
  ✓ Uploading sources...
  ✓ Building Container... Logs are available at [https://console.cloud.google.com/cloud-build/builds/6ebe74bf-3039-4221-b2e9-7ca8fa8dad8e?project=1012713954588].
  ✓ Creating Revision...
  ✓ Routing traffic...
    Setting IAM Policy...
Completed with warnings:
  Setting IAM policy failed, try "gcloud beta run services remove-iam-policy-binding --region=us-central1 --member=allUsers --role=roles/run.invoker retrieval-service"
Service [retrieval-service] revision [retrieval-service-00002-4pl] has been deployed and is serving 100 percent of traffic.
Service URL: https://retrieval-service-onme64eorq-uc.a.run.app
student@instance-1:~/genai-databases-retrieval-app$

পরিষেবাটি যাচাই করুন

এখন আমরা পরীক্ষা করে দেখতে পারি যে সার্ভিসটি সঠিকভাবে চলছে কিনা এবং ভিএম-এর এন্ডপয়েন্টে অ্যাক্সেস আছে কিনা। রিট্রিভাল সার্ভিস এন্ডপয়েন্টটি পাওয়ার জন্য আমরা gcloud ইউটিলিটি ব্যবহার করি। বিকল্পভাবে, আপনি এটি ক্লাউড কনসোলে পরীক্ষা করতে পারেন এবং `curl` কমান্ডে "$(gcloud run services list –filter="(retrieval-service)" এর জায়গায় সেখান থেকে পাওয়া মানটি বসিয়ে দিতে পারেন।

ভিএম এসএসএইচ সেশনে নিম্নলিখিতটি চালান:

curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~/genai-databases-retrieval-app$ curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")
{"message":"Hello World"}student@instance-1:~/genai-databases-retrieval-app$

যদি আমরা "Hello World" বার্তাটি দেখি, তার মানে আমাদের পরিষেবাটি চালু আছে এবং অনুরোধগুলি পূরণ করছে।

৮. নমুনা অ্যাপ্লিকেশনটি স্থাপন করুন

এখন যখন আমাদের ডেটা পুনরুদ্ধার পরিষেবাটি চালু হয়ে গেছে, আমরা একটি নমুনা অ্যাপ্লিকেশন স্থাপন করতে পারি যা এই পরিষেবাটি ব্যবহার করবে। অ্যাপ্লিকেশনটি ভিএম-এ (VM) অথবা ক্লাউড রান (Cloud Run), কুবারনেটিস (Kubernetes)-এর মতো অন্য কোনো পরিষেবাতে, এমনকি স্থানীয়ভাবে একটি ল্যাপটপেও স্থাপন করা যেতে পারে। এখানে আমরা দেখাবো কিভাবে এটি ভিএম-এ (VM) স্থাপন করতে হয়।

পরিবেশ প্রস্তুত করুন

আমরা একই SSH সেশন ব্যবহার করে আমাদের VM-এ কাজ চালিয়ে যাচ্ছি। আমাদের অ্যাপ্লিকেশনটি চালানোর জন্য কিছু পাইথন মডিউল যোগ করতে হবে। কমান্ডটি একই পাইথন ভার্চুয়াল এনভায়রনমেন্টের অ্যাপ্লিকেশন ডিরেক্টরি থেকে চালানো হবে।

ভিএম এসএসএইচ সেশনে নিম্নলিখিতটি চালান:

cd ~/genai-databases-retrieval-app/llm_demo
pip install -r requirements.txt

প্রত্যাশিত আউটপুট (সংশোধিত):

student@instance-1:~$ cd ~/genai-databases-retrieval-app/llm_demo
pip install -r requirements.txt
Collecting fastapi==0.104.0 (from -r requirements.txt (line 1))
  Obtaining dependency information for fastapi==0.104.0 from https://files.pythonhosted.org/packages/db/30/b8d323119c37e15b7fa639e65e0eb7d81eb675ba166ac83e695aad3bd321/fastapi-0.104.0-py3-none-any.whl.metadata
  Downloading fastapi-0.104.0-py3-none-any.whl.metadata (24 kB)
...

ক্লায়েন্ট আইডি প্রস্তুত করুন

অ্যাপ্লিকেশনটির বুকিং কার্যকারিতা ব্যবহার করার জন্য আমাদের ক্লাউড কনসোল ব্যবহার করে OAuth 2.0 ক্লায়েন্ট আইডি প্রস্তুত করতে হবে। অ্যাপ্লিকেশনটিতে সাইন ইন করার সময় এটি প্রয়োজন হবে, কারণ বুকিং প্রক্রিয়াটি ডেটাবেসে বুকিং ডেটা রেকর্ড করার জন্য ক্লায়েন্টের ক্রেডেনশিয়াল ব্যবহার করে।

ক্লাউড কনসোলে API এবং Services-এ যান, "OAuth consent screen"-এ ক্লিক করুন এবং "Internal" ব্যবহারকারী নির্বাচন করুন।

2400e5dcdb93eab8.png

তারপর "Create" বোতামে চাপ দিন এবং পরবর্তী স্ক্রিনে নির্দেশাবলী অনুসরণ করুন।

6c34d235156e571f.png

আপনাকে "অ্যাপের নাম" এবং "ব্যবহারকারী সহায়তার ইমেল"-এর মতো প্রয়োজনীয় ক্ষেত্রগুলি পূরণ করতে হবে। এছাড়াও, আপনি সম্মতি স্ক্রিনে যে ডোমেইনটি দেখাতে চান তা যোগ করতে পারেন এবং সবশেষে "ডেভেলপারের যোগাযোগের তথ্য" যোগ করতে পারেন।

2b7cd51aff915072.png

তারপর আপনি পৃষ্ঠার নীচে থাকা "সংরক্ষণ করুন এবং চালিয়ে যান" বোতামটি চাপুন, এটি আপনাকে পরবর্তী পৃষ্ঠায় নিয়ে যাবে।

d90c10c88fd347f9.png

আপনি যদি স্কোপগুলো নির্দিষ্ট করতে না চান, তবে সেখানে কিছু পরিবর্তন করার প্রয়োজন নেই। সবশেষে, "সেভ অ্যান্ড কন্টিনিউ" বোতামটি আবার চেপে এটি নিশ্চিত করুন। এর মাধ্যমে অ্যাপ্লিকেশন কনসেন্ট স্ক্রিনটি সেট আপ হবে।

পরবর্তী ধাপ হলো ক্লায়েন্ট আইডি তৈরি করা। বাম প্যানেলে আপনি "Credentials"-এ ক্লিক করবেন, যা আপনাকে OAuth2-এর ক্রেডেনশিয়ালসে নিয়ে যাবে।

7ad97432390f224c.png

এখানে উপরে থাকা "Create Credentials"-এ ক্লিক করে "OAuth ClientID" বেছে নিন। এরপর আরেকটি স্ক্রিন খুলে যাবে।

325a926431c8f16d.png

অ্যাপ্লিকেশন টাইপের জন্য ড্রপডাউন তালিকা থেকে "ওয়েব অ্যাপ্লিকেশন" বেছে নিন এবং "অথরাইজড জাভাস্ক্রিপ্ট অরিজিনস" হিসেবে আপনার অ্যাপ্লিকেশন ইউআরআই (এবং পোর্ট - ঐচ্ছিকভাবে) দিন। আর অথরাইজেশন পপআপ স্ক্রিনটি ব্যবহার করতে পারার জন্য, আপনাকে "অথরাইজড রিডাইরেক্ট ইউআরআই"-তে আপনার অ্যাপ্লিকেশন হোস্টের শেষে "/login/google" যোগ করতে হবে। উপরের ছবিতে আপনি দেখতে পাচ্ছেন যে আমি আমার বেস অ্যাপ্লিকেশন ইউআরআই হিসেবে http://localhost ব্যবহার করেছি।

'Create' বোতামটি চাপার পর আপনার ক্লায়েন্টের পরিচয়পত্রসহ একটি পপ-আপ উইন্ডো আসবে।

e91adf03ec31cd15.png

পরবর্তীতে আমাদের অ্যাপ্লিকেশনে ব্যবহারের জন্য ক্লায়েন্ট আইডি (এবং ঐচ্ছিকভাবে ক্লায়েন্ট সিক্রেট) প্রয়োজন হবে।

সহকারী অ্যাপ্লিকেশন চালান

অ্যাপ্লিকেশনটি শুরু করার আগে আমাদের কিছু এনভায়রনমেন্ট ভেরিয়েবল সেট করতে হবে। অ্যাপ্লিকেশনটির মৌলিক কার্যকারিতা, যেমন ফ্লাইট অনুসন্ধান এবং বিমানবন্দরের সুযোগ-সুবিধা জানার জন্য শুধুমাত্র BASE_URL প্রয়োজন, যা অ্যাপ্লিকেশনটিকে ডেটা পুনরুদ্ধার পরিষেবাতে নির্দেশ করে। আমরা gcloud কমান্ড ব্যবহার করে এটি পেতে পারি।

ভিএম এসএসএইচ সেশনে নিম্নলিখিতটি চালান:

export BASE_URL=$(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

প্রত্যাশিত আউটপুট (সংশোধিত):

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ export BASE_URL=$(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

অ্যাপ্লিকেশনটির আরও উন্নত ক্ষমতা, যেমন ফ্লাইট বুকিং এবং পরিবর্তন করার জন্য, আমাদের গুগল অ্যাকাউন্ট ব্যবহার করে অ্যাপ্লিকেশনটিতে সাইন-ইন করতে হবে এবং সেই উদ্দেশ্যে, 'ক্লায়েন্ট আইডি প্রস্তুত করুন' অধ্যায় থেকে OAuth ক্লায়েন্ট আইডি ব্যবহার করে CLIENT_ID এনভায়রনমেন্ট ভেরিয়েবলটি প্রদান করতে হবে।

export CLIENT_ID=215....apps.googleusercontent.com

প্রত্যাশিত আউটপুট (সংশোধিত):

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ export CLIENT_ID=215....apps.googleusercontent.com

এবং এখন আমরা আমাদের অ্যাপ্লিকেশনটি চালাতে পারি:

python run_app.py

প্রত্যাশিত আউটপুট:

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ python main.py
INFO:     Started server process [28565]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8081 (Press CTRL+C to quit)

অ্যাপ্লিকেশনটিতে সংযোগ করুন

ভিএম-এ চলমান অ্যাপ্লিকেশনটির সাথে সংযোগ করার জন্য আপনার কাছে বেশ কয়েকটি উপায় রয়েছে। উদাহরণস্বরূপ, আপনি ভিপিসি-তে ফায়ারওয়াল নিয়ম ব্যবহার করে ভিএম-এ পোর্ট ৮০৮১ খুলতে পারেন অথবা পাবলিক আইপি দিয়ে একটি লোড ব্যালেন্সার তৈরি করতে পারেন। এখানে আমরা লোকাল পোর্ট ৮০৮০-কে ভিএম পোর্ট ৮০৮১-এ রূপান্তর করে ভিএম-এর সাথে একটি এসএসএইচ টানেল ব্যবহার করতে যাচ্ছি।

স্থানীয় মেশিন থেকে সংযোগ করা হচ্ছে

যখন আমরা কোনো লোকাল মেশিন থেকে সংযোগ করতে চাই, তখন আমাদের একটি SSH টানেল চালাতে হয়। এটি gcloud compute ssh ব্যবহার করে করা যেতে পারে।

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8081:localhost:8081

প্রত্যাশিত আউটপুট:

student-macbookpro:~ student$ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
Warning: Permanently added 'compute.7064281075337367021' (ED25519) to the list of known hosts.
Linux instance-1.us-central1-c.c.gleb-test-001.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$

এখন আমরা ব্রাউজার খুলে http://localhost:8081 ব্যবহার করে আমাদের অ্যাপ্লিকেশনে সংযোগ করতে পারি। আমরা অ্যাপ্লিকেশন স্ক্রিনটি দেখতে পাব।

c667b9013afac3f9.png

ক্লাউড শেল থেকে সংযোগ স্থাপন

বিকল্পভাবে আমরা সংযোগ করার জন্য ক্লাউড শেল ব্যবহার করতে পারি। উপরে থাকা "+" চিহ্নটি ব্যবহার করে আরেকটি ক্লাউড শেল ট্যাব খুলুন।

4ca978f5142bb6ce.png

নতুন ক্লাউড শেল ট্যাবে gcloud কমান্ডটি চালিয়ে আপনার VM-এর সাথে টানেলটি শুরু করুন:

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081

এটি "অনুরোধকৃত ঠিকানা বরাদ্দ করা যাচ্ছে না" এই ত্রুটিটি দেখাবে - অনুগ্রহ করে এটি উপেক্ষা করুন।

প্রত্যাশিত আউটপুটটি হলো:

student@cloudshell:~ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
bind [::1]:8081: Cannot assign requested address
inux instance-1.us-central1-a.c.gleb-codelive-01.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
Last login: Sat May 25 19:15:46 2024 from 35.243.235.73
student@instance-1:~$

এটি আপনার ক্লাউড শেলে পোর্ট ৮০৮০ খোলে, যা 'ওয়েব প্রিভিউ'-এর জন্য ব্যবহার করা যেতে পারে।

আপনার ক্লাউড শেলের উপরের ডানদিকে থাকা 'ওয়েব প্রিভিউ' বোতামে ক্লিক করুন এবং ড্রপ-ডাউন মেনু থেকে 'পোর্ট ৮০৮০-তে প্রিভিউ' নির্বাচন করুন।

444fbf54dcd4d160.png

এটি আপনার ওয়েব ব্রাউজারে অ্যাপ্লিকেশন ইন্টারফেস সহ একটি নতুন ট্যাব খোলে। আপনি "Cymbal Air Customer Service Assistant" পৃষ্ঠাটি দেখতে পাবেন। পৃষ্ঠাটির অ্যাড্রেস বারে আমরা প্রিভিউ পৃষ্ঠার URI দেখতে পাই। আমাদের শেষের "/?authuser=0&redirectedPreviously=true" অংশটি মুছে ফেলতে হবে।

389f0ae2945beed5.png

এবং URI-এর প্রথম অংশ, যেমন "https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev/", ব্রাউজার উইন্ডোতে রেখে দিতে হবে এবং "Prepare Client ID" অধ্যায়ে তৈরি করা আমাদের ক্রেডেনশিয়ালের জন্য " Authorized JavaScript origins " এবং "Authorized redirect URIs " হিসাবে প্রদান করতে হবে, যা মূলত প্রদত্ত http://localhost:8080 মানগুলিকে প্রতিস্থাপন বা যোগ করবে। উপরের মানটি দেখতে হবে " https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev " এবং নিচেরটি হবে " https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev/login/google "।

2c37eeda0a7e2f80.png

অ্যাপ্লিকেশনটিতে সাইন ইন করুন

সবকিছু সেট আপ হয়ে গেলে এবং আপনার অ্যাপ্লিকেশনটি খোলা থাকলে, আমরা আমাদের অ্যাপ্লিকেশন স্ক্রিনের উপরের ডানদিকে থাকা "সাইন ইন" বোতামটি ব্যবহার করে আমাদের ক্রেডেনশিয়াল প্রদান করতে পারি। এটি ঐচ্ছিক এবং শুধুমাত্র তখনই প্রয়োজন হবে যদি আপনি অ্যাপ্লিকেশনটির বুকিং কার্যকারিতা ব্যবহার করে দেখতে চান।

a1f571371b957129.png

এটি একটি পপ-আপ উইন্ডো খুলবে যেখানে আমরা আমাদের পরিচয়পত্র নির্বাচন করতে পারব।

সাইন ইন করার পর অ্যাপ্লিকেশনটি প্রস্তুত হয়ে যাবে এবং আপনি উইন্ডোর নিচের অংশে থাকা ফিল্ডে আপনার অনুরোধগুলো পোস্ট করা শুরু করতে পারবেন।

এই ডেমোতে সিম্বাল এয়ারের কাস্টমার সার্ভিস অ্যাসিস্ট্যান্টকে তুলে ধরা হয়েছে। সিম্বাল এয়ার একটি কাল্পনিক যাত্রীবাহী বিমান সংস্থা। এই অ্যাসিস্ট্যান্টটি একটি এআই চ্যাটবট, যা যাত্রীদের ফ্লাইট পরিচালনা করতে এবং সান ফ্রান্সিসকো আন্তর্জাতিক বিমানবন্দর (SFO)-এ অবস্থিত সিম্বাল এয়ারের হাব সম্পর্কে তথ্য খুঁজে বের করতে সাহায্য করে।

সাইন ইন না করেই (ক্লায়েন্ট আইডি ছাড়া) এটি ব্যবহারকারীদের নিম্নলিখিত প্রশ্নগুলির উত্তর দিতে সাহায্য করতে পারে:

ডেনভারের পরবর্তী ফ্লাইটটি কখন?

গেট C28-এর আশেপাশে কোনো বিলাসবহুল দোকান আছে কি?

A6 গেটের কাছে কোথায় কফি পাওয়া যাবে?

আমি উপহার কোথা থেকে কিনতে পারি?

অনুগ্রহ করে সকাল ১০:৩৫-এ ডেনভারগামী ফ্লাইটটি বুক করুন।

অ্যাপ্লিকেশনটিতে সাইন ইন করা থাকলে, আপনি ফ্লাইট বুক করা বা আপনাকে বরাদ্দ করা আসনটি জানালার পাশের নাকি করিডোরের পাশের, তা যাচাই করার মতো অন্যান্য কাজগুলো করতে পারবেন।

6e7758f707c67c3e.png

অ্যাপ্লিকেশনটি প্রতিক্রিয়া তৈরি করতে সর্বশেষ গুগল ফাউন্ডেশন মডেল ব্যবহার করে এবং অপারেশনাল ক্লাউড SQL ডেটাবেস থেকে ফ্লাইট ও সুযোগ-সুবিধা সম্পর্কিত তথ্য দিয়ে সেটিকে সমৃদ্ধ করে। আপনি প্রজেক্টটির গিটহাব পেজে এই ডেমো অ্যাপ্লিকেশনটি সম্পর্কে আরও বিস্তারিত জানতে পারবেন।

৯. পরিবেশ পরিষ্কার করা

সব কাজ সম্পন্ন হলে আমরা আমাদের পরিবেশ পরিষ্কার করতে পারব।

ক্লাউড রান পরিষেবা মুছে ফেলুন

ক্লাউড শেলে চালান:

gcloud run services delete retrieval-service --region us-central1

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ gcloud run services delete retrieval-service --region us-central1
Service [retrieval-service] will be deleted.

Do you want to continue (Y/n)?  Y

Deleting [retrieval-service]...done.                                                                                                                                                                                                                 
Deleted service [retrieval-service].

ক্লাউড চালিত পরিষেবার জন্য পরিষেবা অ্যাকাউন্টটি মুছে ফেলুন

ক্লাউড শেলে চালান:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
Your active configuration is: [cloudshell-222]
student@cloudshell:~ (gleb-test-short-004)$ gcloud iam service-accounts delete retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet
deleted service account [retrieval-identity@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$

ক্লাউড SQL ইনস্ট্যান্সটি মুছে ফেলুন

ল্যাবের কাজ শেষ হলে ক্লাউড SQL ইনস্ট্যান্সটি ধ্বংস করে দিন।

যদি আপনার সংযোগ বিচ্ছিন্ন হয়ে যায় এবং পূর্বের সমস্ত সেটিংস হারিয়ে যায়, তাহলে ক্লাউড শেলে প্রজেক্ট এবং এনভায়রনমেন্ট ভেরিয়েবলগুলো নির্ধারণ করুন:

export INSTANCE_NAME=my-cloudsql-instance
export PROJECT_ID=$(gcloud config get-value project)

ইনস্ট্যান্সটি মুছে ফেলুন:

gcloud sql instances delete $INSTANCE_NAME --project=$PROJECT_ID

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~$ gcloud sql instances delete $INSTANCE_NAME --project=$PROJECT_ID
All of the instance data will be lost when the instance is deleted.

Do you want to continue (Y/n)?  y

Deleting Cloud SQL instance...done.                                                                                                                
Deleted [https://sandbox.googleapis.com/v1beta4/projects/test-project-001-402417/instances/my-cloudsql-instance].

এখন আমরা আমাদের ভিএম ধ্বংস করতে পারি

GCE VM মুছে ফেলুন

ক্লাউড শেলে চালান:

export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-001-402417)$ export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet
Deleted 

GCE VM এবং রিট্রিভাল সার্ভিসের জন্য সার্ভিস অ্যাকাউন্টটি মুছে ফেলুন

ক্লাউড শেলে চালান:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet
Your active configuration is: [cloudshell-222]
deleted service account [compute-aip@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$ 

১০. অভিনন্দন

কোডল্যাবটি সম্পন্ন করার জন্য অভিনন্দন।

আমরা যা আলোচনা করেছি

  • ক্লাউড এসকিউএল ইনস্ট্যান্স কীভাবে তৈরি করবেন
  • ক্লাউড SQL ইনস্ট্যান্সে কীভাবে সংযোগ করবেন
  • GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা কীভাবে কনফিগার এবং স্থাপন করবেন
  • ডেপ্লয়েড সার্ভিস ব্যবহার করে কীভাবে একটি নমুনা অ্যাপ্লিকেশন ডেপ্লয় করবেন

১১. জরিপ

আপনি এই টিউটোরিয়ালটি কীভাবে ব্যবহার করবেন?

শুধু একবার পড়ে দেখুন এটি পড়ুন এবং অনুশীলনগুলো সম্পূর্ণ করুন।