ক্লাউড এসকিউএল ডাটাবেস এবং ল্যাংচেইন ব্যবহার করে একটি LLM এবং RAG-ভিত্তিক চ্যাট অ্যাপ্লিকেশন তৈরি করা

1। পরিচিতি

এই কোডল্যাবে আপনি শিখবেন কিভাবে GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা স্থাপন করতে হয় এবং স্থাপন করা পরিবেশ ব্যবহার করে একটি নমুনা ইন্টারেক্টিভ অ্যাপ্লিকেশন তৈরি করতে হয়।

8727a44c8c402834.png

আপনি এখানে GenAI পুনরুদ্ধার পরিষেবা এবং নমুনা অ্যাপ্লিকেশন সম্পর্কে আরও তথ্য পেতে পারেন।

পূর্বশর্ত

  • Google ক্লাউড কনসোলের একটি প্রাথমিক ধারণা
  • কমান্ড লাইন ইন্টারফেস এবং গুগল ক্লাউড শেলের প্রাথমিক দক্ষতা

আপনি কি শিখবেন

  • ক্লাউড এসকিউএল ইনস্ট্যান্স কিভাবে তৈরি করবেন
  • কিভাবে দৃষ্টান্ত সংযোগ করতে
  • কিভাবে GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা কনফিগার এবং স্থাপন করবেন
  • স্থাপন করা পরিষেবা ব্যবহার করে একটি নমুনা অ্যাপ্লিকেশন কীভাবে স্থাপন করবেন

আপনি কি প্রয়োজন হবে

  • একটি Google ক্লাউড অ্যাকাউন্ট এবং Google ক্লাউড প্রকল্প
  • একটি ওয়েব ব্রাউজার যেমন ক্রোম

2. সেটআপ এবং প্রয়োজনীয়তা

স্ব-গতিসম্পন্ন পরিবেশ সেটআপ

  1. Google ক্লাউড কনসোলে সাইন-ইন করুন এবং একটি নতুন প্রকল্প তৈরি করুন বা বিদ্যমান একটি পুনরায় ব্যবহার করুন৷ আপনার যদি ইতিমধ্যেই একটি Gmail বা Google Workspace অ্যাকাউন্ট না থাকে, তাহলে আপনাকে অবশ্যই একটি তৈরি করতে হবে।

fbef9caa1602edd0.png

a99b7ace416376c4.png

5e3ff691252acf41.png

  • প্রকল্পের নাম এই প্রকল্পের অংশগ্রহণকারীদের জন্য প্রদর্শনের নাম। এটি একটি অক্ষর স্ট্রিং যা Google API দ্বারা ব্যবহৃত হয় না। আপনি সবসময় এটি আপডেট করতে পারেন.
  • প্রোজেক্ট আইডি সমস্ত Google ক্লাউড প্রোজেক্ট জুড়ে অনন্য এবং অপরিবর্তনীয় (সেট করার পরে পরিবর্তন করা যাবে না)। ক্লাউড কনসোল স্বয়ংক্রিয়ভাবে একটি অনন্য স্ট্রিং তৈরি করে; সাধারণত আপনি এটা কি যত্ন না. বেশিরভাগ কোডল্যাবে, আপনাকে আপনার প্রকল্প আইডি উল্লেখ করতে হবে (সাধারণত PROJECT_ID হিসাবে চিহ্নিত)। আপনি যদি জেনারেট করা আইডি পছন্দ না করেন, তাহলে আপনি অন্য একটি এলোমেলো আইডি তৈরি করতে পারেন। বিকল্পভাবে, আপনি নিজের চেষ্টা করতে পারেন, এবং এটি উপলব্ধ কিনা দেখতে পারেন। এই ধাপের পরে এটি পরিবর্তন করা যাবে না এবং প্রকল্পের সময়কালের জন্য থাকে।
  • আপনার তথ্যের জন্য, একটি তৃতীয় মান আছে, একটি প্রকল্প নম্বর , যা কিছু API ব্যবহার করে। ডকুমেন্টেশনে এই তিনটি মান সম্পর্কে আরও জানুন।
  1. এরপরে, ক্লাউড রিসোর্স/এপিআই ব্যবহার করতে আপনাকে ক্লাউড কনসোলে বিলিং সক্ষম করতে হবে। এই কোডল্যাবের মাধ্যমে চালানোর জন্য খুব বেশি খরচ হবে না, যদি কিছু হয়। এই টিউটোরিয়ালের বাইরে বিলিং এড়াতে সংস্থানগুলি বন্ধ করতে, আপনি আপনার তৈরি করা সংস্থানগুলি মুছতে বা প্রকল্প মুছতে পারেন। নতুন Google ক্লাউড ব্যবহারকারীরা $300 USD বিনামূল্যের ট্রায়াল প্রোগ্রামের জন্য যোগ্য৷

ক্লাউড শেল শুরু করুন

যদিও Google ক্লাউড আপনার ল্যাপটপ থেকে দূরবর্তীভাবে পরিচালিত হতে পারে, এই কোডল্যাবে আপনি Google ক্লাউড শেল ব্যবহার করবেন, একটি কমান্ড লাইন পরিবেশ যা ক্লাউডে চলছে।

Google ক্লাউড কনসোল থেকে, উপরের ডানদিকে টুলবারে ক্লাউড শেল আইকনে ক্লিক করুন:

55efc1aaa7a4d3ad.png

পরিবেশের ব্যবস্থা করতে এবং সংযোগ করতে এটি শুধুমাত্র কয়েক মুহূর্ত নিতে হবে। এটি সমাপ্ত হলে, আপনি এই মত কিছু দেখতে হবে:

7ffe5cbb04455448.png

এই ভার্চুয়াল মেশিনটি আপনার প্রয়োজনীয় সমস্ত ডেভেলপমেন্ট টুল দিয়ে লোড করা হয়েছে। এটি একটি ক্রমাগত 5GB হোম ডিরেক্টরি অফার করে এবং Google ক্লাউডে চলে, যা নেটওয়ার্ক কর্মক্ষমতা এবং প্রমাণীকরণকে ব্যাপকভাবে উন্নত করে। এই কোডল্যাবে আপনার সমস্ত কাজ একটি ব্রাউজারে করা যেতে পারে। আপনার কিছু ইন্সটল করার দরকার নেই।

3. আপনি শুরু করার আগে

API সক্ষম করুন

ক্লাউড শেলের ভিতরে, নিশ্চিত করুন যে আপনার প্রকল্প আইডি সেটআপ করা আছে:

সাধারণত প্রজেক্ট আইডিটি ক্লাউড শেলের কমান্ড প্রম্পটে বন্ধনীতে দেখানো হয় যেমনটি ছবিতে দেখানো হয়েছে:

fa6ee779963405d5.png

gcloud config set project [YOUR-PROJECT-ID]

তারপর আপনার Google ক্লাউড প্রকল্প আইডিতে PROJECT_ID পরিবেশ পরিবর্তনশীল সেট করুন:

PROJECT_ID=$(gcloud config get-value project)

সমস্ত প্রয়োজনীয় পরিষেবাগুলি সক্ষম করুন:

gcloud services enable sqladmin.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ gcloud services enable sqladmin.googleapis.com \
                       compute.googleapis.com \
                       cloudresourcemanager.googleapis.com \
                       servicenetworking.googleapis.com \
                       vpcaccess.googleapis.com \
                       aiplatform.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com \
                       run.googleapis.com \
                       iam.googleapis.com
Operation "operations/acf.p2-404051529011-664c71ad-cb2b-4ab4-86c1-1f3157d70ba1" finished successfully.

4. একটি ক্লাউড এসকিউএল ইনস্ট্যান্স তৈরি করুন

ভেক্টর সমর্থন সক্ষম করে একটি ক্লাউড SQL দৃষ্টান্ত তৈরি করুন।

একটি পাসওয়ার্ড তৈরি করুন

ডিফল্ট ডাটাবেস ব্যবহারকারীর জন্য পাসওয়ার্ড নির্ধারণ করুন। আপনি আপনার নিজের পাসওয়ার্ড সংজ্ঞায়িত করতে পারেন বা একটি তৈরি করতে একটি র্যান্ডম ফাংশন ব্যবহার করতে পারেন

export CLOUDSQL_PASSWORD=`openssl rand -hex 12`

পাসওয়ার্ডের জন্য উত্পন্ন মান নোট করুন

echo $CLOUDSQL_PASSWORD

মাইএসকিউএল

আপনি উদাহরণ তৈরিতে cloudsql_vector পতাকা সক্ষম করতে পারেন। বর্তমানে, ভেক্টর সমর্থন MySQL 8.0.36 এবং 8.0.37 এ দেওয়া হয়।

export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=MYSQL_8_0_36 --database-flags=cloudsql_vector=ON --root-password=$CLOUDSQL_PASSWORD

প্রত্যাশিত কনসোল আউটপুট (আইপি ঠিকানা সংশোধন করা হয়েছে):

student@cloudshell:~ export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=MYSQL_8_0_36 --database-flags=cloudsql_vector=ON --root-password=$CLOUDSQL_PASSWORD
Creating Cloud SQL instance for MYSQL_8_0_36...done.                                                                                                                                 
Created [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].
NAME                   DATABASE_VERSION  LOCATION       TIER             PRIMARY_ADDRESS  PRIVATE_ADDRESS  STATUS
my-cloudsql-instance  MYSQL_8_0_36      us-central1-a  db-n1-standard-1  00.000.00.00   -                RUNNABLE

পোস্টগ্রেএসকিউএল

pgvector এক্সটেনশনটি >= 11 সংস্করণে দেওয়া হয়।

export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=POSTGRES_15 --tier=db-g1-small

প্রত্যাশিত কনসোল আউটপুট (আইপি ঠিকানা সংশোধন করা হয়েছে):

student@cloudshell:~ export region=us-central1
gcloud sql instances create my-cloudsql-instance --region=$region --database-version=POSTGRES_15 --tier=db-g1-small
Creating Cloud SQL instance for POSTGRES_15...done.                                                                                                                                  
Created [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].
NAME                   DATABASE_VERSION  LOCATION       TIER         PRIMARY_ADDRESS  PRIVATE_ADDRESS  STATUS
my-cloudsql-instance  POSTGRES_15       us-central1-a  db-g1-small  00.000.00.00     -                RUNNABLE

দৃষ্টান্ত তৈরি করার পরে, আমাদের উদাহরণে ডিফল্ট ব্যবহারকারীর জন্য একটি পাসওয়ার্ড নির্ধারণ করতে হবে এবং আমরা পাসওয়ার্ডের সাথে সংযোগ করতে পারি কিনা তা পরীক্ষা করতে হবে। সংযোগের জন্য প্রস্তুত হলে প্রম্পটে আপনার পাসওয়ার্ডটি রাখুন।

gcloud sql users set-password postgres \
    --instance=my-cloudsql-instance \
    --password=$CLOUDSQL_PASSWORD
gcloud sql connect my-cloudsql-instance --user=postgres

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ gcloud sql users set-password postgres \
    --instance=my-cloudsql-instance \
    --password=$CLOUDSQL_PASSWORD
gcloud sql connect my-cloudsql-instance --user=postgres
Updating Cloud SQL user...done.                                                                                                                                                                                                                                            
Allowlisting your IP for incoming connection for 5 minutes...done.                                                                                                                                                                                                         
Connecting to database with SQL user [postgres].Password: 
psql (16.3 (Ubuntu 16.3-1.pgdg22.04+1), server 15.7)
SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, compression: off)
Type "help" for help.

postgres=>

psql সেশন থেকে প্রস্থান করুন:

exit

5. GCE ভার্চুয়াল মেশিন প্রস্তুত করুন

সার্ভিস অ্যাকাউন্ট তৈরি করুন

যেহেতু আমরা আমাদের GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা স্থাপন করতে এবং একটি নমুনা অ্যাপ্লিকেশন হোস্ট করতে আমাদের VM ব্যবহার করব, তাই প্রথম পদক্ষেপটি হল একটি Google পরিষেবা অ্যাকাউন্ট (GSA) তৈরি করা৷ GSA GCE VM ব্যবহার করবে এবং অন্যান্য পরিষেবার সাথে কাজ করার জন্য আমাদের এটিকে প্রয়োজনীয় সুযোগ-সুবিধা দিতে হবে।

ক্লাউড শেল কার্যকর করুন:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create compute-aip --project $PROJECT_ID
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudbuild.builds.editor"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/artifactregistry.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/storage.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/run.admin"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/iam.serviceAccountUser"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.viewer"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.client"
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:compute-aip@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"

GCE VM স্থাপন করুন

ক্লাউড SQL দৃষ্টান্ত হিসাবে একই অঞ্চলে একটি GCE VM এবং VPC তৈরি করুন৷

ক্লাউড শেল চালান:

export ZONE=us-central1-a
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform \
  --service-account=compute-aip@$PROJECT_ID.iam.gserviceaccount.com

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
gcloud compute instances create instance-1 \
    --zone=$ZONE \
    --create-disk=auto-delete=yes,boot=yes,image=projects/debian-cloud/global/images/$(gcloud compute images list --filter="family=debian-12 AND family!=debian-12-arm64" --format="value(name)") \
    --scopes=https://www.googleapis.com/auth/cloud-platform

Created [https://www.googleapis.com/compute/v1/projects/test-project-402417/zones/us-central1-a/instances/instance-1].
NAME: instance-1
ZONE: us-central1-a
MACHINE_TYPE: n1-standard-1
PREEMPTIBLE: 
INTERNAL_IP: 10.128.0.2
EXTERNAL_IP: 34.71.192.233
STATUS: RUNNING

ক্লাউড SQL-এর সাথে সংযোগ করার জন্য VM-কে অনুমোদন করুন

আমাদের ক্লাউড এসকিউএল ইন্সট্যান্সের জন্য অনুমোদিত নেটওয়ার্কের তালিকায় আমাদের ভিএম পাবলিক আইপি যোগ করতে হবে। ক্লাউড শেল কার্যকর করুন:

VM_EXTERNAL_IP=$(gcloud compute instances describe instance-1 --zone=us-central1-a --format='get(networkInterfaces[0].accessConfigs[0].natIP)')
gcloud sql instances patch my-cloudsql-instance --authorized-networks=$VM_EXTERNAL_IP

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ export ZONE=us-central1-a
student@cloudshell:~ (test-project-402417)$ VM_EXTERNAL_IP=$(gcloud compute instances describe instance-1 --zone=us-central1-a --format='get(networkInterfaces[0].accessConfigs[0].natIP)')
gcloud sql instances patch my-cloudsql-instance --authorized-networks=$VM_EXTERNAL_IP
When adding a new IP address to authorized networks, make sure to also include any IP addresses that have already been authorized. Otherwise, they will be overwritten and de-authorized.

Do you want to continue (Y/n)?  Y

The following message will be used for the patch API method.
{"name": "my-cloudsql-instance", "project": "test-project-402417", "settings": {"ipConfiguration": {"authorizedNetworks": [{"value": "34.71.252.173"}]}}}
Patching Cloud SQL instance...done.                                                                                                                                                                                     
Updated [https://sqladmin.googleapis.com/sql/v1beta4/projects/test-project-402417/instances/my-cloudsql-instance].

ডাটাবেস ক্লায়েন্ট ইনস্টল করুন

মাইএসকিউএল

স্থাপন করা VM-এ MySQL ক্লায়েন্ট সফ্টওয়্যার ইনস্টল করুন।

VM এর সাথে সংযোগ করুন:

gcloud compute ssh instance-1 --zone=us-central1-a

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Updating project ssh metadata...working..Updated [https://www.googleapis.com/compute/v1/projects/test-project-402417].                                                                                                                                                         
Updating project ssh metadata...done.                                                                                                                                                                                                                                              
Waiting for SSH key to propagate.
Warning: Permanently added 'compute.5110295539541121102' (ECDSA) to the list of known hosts.
Linux instance-1 5.10.0-26-cloud-amd64 #1 SMP Debian 5.10.197-1 (2023-09-29) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$ 

VM এর ভিতরে সফ্টওয়্যার চলমান কমান্ড ইনস্টল করুন:

sudo apt-get update
sudo apt-get install --yes default-mysql-client

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ sudo apt-get update
sudo apt-get install --yes mysql-client
Reading package lists... Done
Building dependency tree... Done
Reading state information... Done
The following additional packages will be installed:
  libconfig-inifiles-perl libdbd-mariadb-perl libdbi-perl libgdbm-compat4 libperl5.32 libterm-readkey-perl mariadb-client-10.5 mariadb-client-core-10.5 perl perl-modules-5.32
Suggested packages:
  libclone-perl libmldbm-perl libnet-daemon-perl libsql-statement-perl perl-doc libterm-readline-gnu-perl | libterm-readline-perl-perl make libtap-harness-archive-perl
The following NEW packages will be installed:
  default-mysql-client libconfig-inifiles-perl libdbd-mariadb-perl libdbi-perl libgdbm-compat4 libperl5.32 libterm-readkey-perl mariadb-client-10.5 mariadb-client-core-10.5 perl
  Perl-modules-5.32
...redacted...
Processing triggers for libc-bin (2.31-13+deb11u10) ...

পোস্টগ্রেএসকিউএল

স্থাপন করা VM-এ PostgreSQL ক্লায়েন্ট সফ্টওয়্যার ইনস্টল করুন।

VM এর সাথে সংযোগ করুন:

gcloud compute ssh instance-1 --zone=us-central1-a

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-402417)$ gcloud compute ssh instance-1 --zone=us-central1-a
Updating project ssh metadata...working..Updated [https://www.googleapis.com/compute/v1/projects/test-project-402417].                                                                                                                                                         
Updating project ssh metadata...done.                                                                                                                                                                                                                                              
Waiting for SSH key to propagate.
Warning: Permanently added 'compute.5110295539541121102' (ECDSA) to the list of known hosts.
Linux instance-1 5.10.0-26-cloud-amd64 #1 SMP Debian 5.10.197-1 (2023-09-29) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$ 

VM এর ভিতরে সফ্টওয়্যার চলমান কমান্ড ইনস্টল করুন:

sudo apt-get update
sudo apt-get install --yes postgresql-client

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ sudo apt-get update
sudo apt-get install --yes postgresql-client
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
Get:4 file:/etc/apt/mirrors/debian-security.list Mirrorlist [39 B]
Hit:7 https://packages.cloud.google.com/apt google-compute-engine-bookworm-stable InRelease
Get:8 https://packages.cloud.google.com/apt cloud-sdk-bookworm InRelease [1652 B]
Get:2 https://deb.debian.org/debian bookworm InRelease [151 kB]
Get:3 https://deb.debian.org/debian bookworm-updates InRelease [55.4 kB]
...redacted...
update-alternatives: using /usr/share/postgresql/15/man/man1/psql.1.gz to provide /usr/share/man/man1/psql.1.gz (psql.1.gz) in auto mode
Setting up postgresql-client (15+248) ...
Processing triggers for man-db (2.11.2-2) ...
Processing triggers for libc-bin (2.36-9+deb12u7) ...

ইনস্ট্যান্সের সাথে সংযোগ করুন

মাইএসকিউএল

MySQL ব্যবহার করে VM থেকে প্রাথমিক দৃষ্টান্তের সাথে সংযোগ করুন।

আপনার VM-এ খোলা SSH সেশনটি চালিয়ে যান। যদি আপনি সংযোগ বিচ্ছিন্ন হয়ে থাকেন, তাহলে উপরের মতো একই কমান্ড ব্যবহার করে আবার সংযোগ করুন।

GCE VM থেকে ক্লাউড SQL-এর সাথে সংযোগ করতে পূর্বে উল্লেখিত $CLOUDSQL_PASSWORD এবং উদাহরণের নাম ব্যবহার করুন:

export CLOUDSQL_PASSWORD=<Noted password>
export PROJECT_ID=$(gcloud config get-value project)
export REGION=us-central1
export INSTANCE_NAME=my-cloudsql-instance
export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
mysql --host=$INSTANCE_IP --user=root --password=$CLOUDSQL_PASSWORD

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ export CLOUDSQL_PASSWORD=P9...
student@instance-1:~$ export REGION=us-central1
student@instance-1:~$ export INSTANCE_NAME=my-cloud-sql-instance
student@instance-1:~$ export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
student@instance-1:~$ mysql  –host=$INSTANCE_IP –user=root –password=$CLOUDSQL_PASSWORD –sslmode=require 
Welcome to the MariaDB monitor.  Commands end with ; or \g.
Your MySQL connection id is 2824706
Server version: 8.0.36-google (Google)

Copyright (c) 2000, 2018, Oracle, MariaDB Corporation Ab and others.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

MySQL [(none)]>

SSH সংযোগ বজায় রেখে MySQL অধিবেশন থেকে প্রস্থান করুন:

exit

প্রত্যাশিত কনসোল আউটপুট:

MySQL [(none)]> exit
Bye
student@instance-1:~$ 

পোস্টগ্রেএসকিউএল

psql ব্যবহার করে VM থেকে প্রাথমিক দৃষ্টান্তের সাথে সংযোগ করুন।

আপনার VM-এ খোলা SSH সেশনটি চালিয়ে যান। আপনি যদি সংযোগ বিচ্ছিন্ন হয়ে থাকেন তবে উপরের মতো একই কমান্ড ব্যবহার করে আবার সংযোগ করুন।

GCE VM থেকে PostgreSQL এর সাথে সংযোগ করতে পূর্বে উল্লেখিত $CLOUDSQL_PASSWORD এবং উদাহরণের নাম ব্যবহার করুন:

export PGPASSWORD=<Noted password (CLOUDSQL_PASSWORD)>
export CLOUDSQL_PASSWORD=$PGPASSWORD
export PROJECT_ID=$(gcloud config get-value project)
export REGION=us-central1
export INSTANCE_NAME=my-cloudsql-instance
export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
psql "host=$INSTANCE_IP user=postgres sslmode=require"

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ export CLOUDSQL_PASSWORD=P9...
student@instance-1:~$ export REGION=us-central1
student@instance-1:~$ export INSTANCE_IP=$(gcloud sql instances list --filter=name:$INSTANCE_NAME --format="value(PRIMARY_ADDRESS)")
student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres sslmode=require"
psql (13.11 (Debian 13.11-0+deb11u1), server 14.7)
WARNING: psql major version 13, server major version 14.
         Some psql features might not work.
SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, bits: 256, compression: off)
Type "help" for help.

postgres=> 

SSH সংযোগ বজায় রেখে psql সেশন থেকে প্রস্থান করুন:

exit

প্রত্যাশিত কনসোল আউটপুট:

postgres=> exit
student@instance-1:~$ 

6. ডাটাবেস শুরু করুন

আমরা আমাদের ক্লায়েন্ট ভিএমকে একটি প্ল্যাটফর্ম হিসাবে ব্যবহার করতে যাচ্ছি যাতে ডেটা দিয়ে আমাদের ডাটাবেস তৈরি করা যায় এবং আমাদের অ্যাপ্লিকেশন হোস্ট করা যায়। প্রথম ধাপ হল একটি ডাটাবেস তৈরি করা এবং ডেটা দিয়ে তা পপুলেট করা।

ডাটাবেস তৈরি করুন

মাইএসকিউএল

"সহকারী ডেমো" নামে একটি ডাটাবেস তৈরি করুন।

GCE VM সেশন এক্সিকিউটে:

mysql --host=$INSTANCE_IP  --user=root --password=$CLOUDSQL_PASSWORD -e "CREATE DATABASE assistantdemo"

প্রত্যাশিত কনসোল আউটপুট (কোন আউটপুট নেই):

student@instance-1:~$ mysql --host=$INSTANCE_IP  --user=root --password=$CLOUDSQL_PASSWORD -e "CREATE DATABASE assistantdemo"
student@instance-1:~$  

পোস্টগ্রেএসকিউএল

"সহকারী ডেমো" নামে একটি ডাটাবেস তৈরি করুন।

GCE VM সেশন এক্সিকিউটে:

psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"  

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres" -c "CREATE DATABASE assistantdemo"
CREATE DATABASE
student@instance-1:~$  

pgvector এক্সটেনশন সক্রিয় করুন।

psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "CREATE EXTENSION vector"  

প্রত্যাশিত কনসোল আউটপুট (কোন আউটপুট নেই):

student@instance-1:~$ psql "host=$INSTANCE_IP user=postgres dbname=assistantdemo" -c "CREATE EXTENSION vector"
CREATE EXTENSION
student@instance-1:~$

পাইথন পরিবেশ প্রস্তুত করুন

চালিয়ে যাওয়ার জন্য আমরা গিটহাব রিপোজিটরি থেকে প্রস্তুত পাইথন স্ক্রিপ্টগুলি ব্যবহার করতে যাচ্ছি তবে এটি করার আগে আমাদের প্রয়োজনীয় সফ্টওয়্যারটি ইনস্টল করতে হবে।

GCE VM এক্সিকিউটে:

sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ sudo apt install -y python3.11-venv git
python3 -m venv .venv
source .venv/bin/activate
pip install --upgrade pip
Reading package lists... Done
Building dependency tree... Done
Reading state information... Done
The following additional packages will be installed:
  git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl
Suggested packages:
  git-daemon-run | git-daemon-sysvinit git-doc git-email git-gui gitk gitweb git-cvs git-mediawiki git-svn ed diffutils-doc
The following NEW packages will be installed:
  git git-man liberror-perl patch python3-distutils python3-lib2to3 python3-pip-whl python3-setuptools-whl python3.11-venv
0 upgraded, 9 newly installed, 0 to remove and 2 not upgraded.
Need to get 12.4 MB of archives.
After this operation, 52.2 MB of additional disk space will be used.
Get:1 file:/etc/apt/mirrors/debian.list Mirrorlist [30 B]
...redacted...
Installing collected packages: pip
  Attempting uninstall: pip
    Found existing installation: pip 23.0.1
    Uninstalling pip-23.0.1:
      Successfully uninstalled pip-23.0.1
Successfully installed pip-24.0
(.venv) student@instance-1:~$

পাইথন সংস্করণ যাচাই করুন।

GCE VM এক্সিকিউটে:

python -V

প্রত্যাশিত কনসোল আউটপুট:

(.venv) student@instance-1:~$ python -V
Python 3.11.2
(.venv) student@instance-1:~$ 

কনফিগারেশন ফাইল প্রস্তুত করুন

পুনরুদ্ধার পরিষেবা এবং নমুনা অ্যাপ্লিকেশনের জন্য কোড সহ GitHub সংগ্রহস্থল ক্লোন করুন।

GCE VM এক্সিকিউটে:

git clone https://github.com/GoogleCloudPlatform/genai-databases-retrieval-app.git

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ git clone https://github.com/GoogleCloudPlatform/genai-databases-retrieval-app.git
Cloning into 'genai-databases-retrieval-app'...
remote: Enumerating objects: 525, done.
remote: Counting objects: 100% (336/336), done.
remote: Compressing objects: 100% (201/201), done.
remote: Total 525 (delta 224), reused 179 (delta 135), pack-reused 189
Receiving objects: 100% (525/525), 46.58 MiB | 16.16 MiB/s, done.
Resolving deltas: 100% (289/289), done.

মাইএসকিউএল

GCE VM এক্সিকিউটে:

cd ~/genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
cp example-config-cloudsql.yml config.yml
sed -i s/engine/mysql/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password//g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/root/g config.yml
cat config.yml

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ cd genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/127.0.0.1/$INSTANCE_IP/g config.yml
sed -i s/my-password/$CLOUDSQL_PASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml
host: 0.0.0.0
# port: 8080
datastore:
  # Example for MySQL
  kind: "cloudsql-mysql"
  host: 10.65.0.2
  # port: 5432
  database: "assistantdemo"
  user: "root"
  password: "P9..."

পোস্টগ্রেস

GCE VM এক্সিকিউটে:

cd ~/genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/engine/postgres/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password/$PGPASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~$ cd genai-databases-retrieval-app/retrieval_service
cp example-config-cloudsql.yml config.yml
sed -i s/engine/postgres/g config.yml
sed -i s/my-project/$PROJECT_ID/g config.yml
sed -i s/my-region/$REGION/g config.yml
sed -i s/my-instance/$INSTANCE_NAME/g config.yml
sed -i s/my-password/$CLOUDSQL_PASSWORD/g config.yml
sed -i s/my_database/assistantdemo/g config.yml
sed -i s/my-user/postgres/g config.yml
cat config.yml
host: 0.0.0.0
# port: 8080
datastore:
  # Example for Postgres
  kind: "cloudsql-postgres"
  host: 10.65.0.2
  # port: 5432
  database: "assistantdemo"
  user: "postgres"
  password: "P9..."

ডাটাবেস পপুলেট করুন

নমুনা ডেটাসেট দিয়ে ডাটাবেস পপুলেট করুন। প্রথম কমান্ডটি আমাদের পাইথন ভার্চুয়াল পরিবেশে সমস্ত প্রয়োজনীয় প্যাকেজ যুক্ত করছে এবং দ্বিতীয় কমান্ডটি আমাদের ডাটাবেসকে ডেটা দিয়ে তৈরি করছে।

GCE VM এক্সিকিউটে:

cd ~/genai-databases-retrieval-app/retrieval_service
pip install -r requirements.txt
python run_database_init.py

প্রত্যাশিত কনসোল আউটপুট (সংশোধন করা হয়েছে):

student@instance-1:~/genai-databases-retrieval-app/retrieval_service$ pip install -r requirements.txt
python run_database_init.py
Collecting asyncpg==0.28.0 (from -r requirements.txt (line 1))
  Obtaining dependency information for asyncpg==0.28.0 from https://files.pythonhosted.org/packages/77/a4/88069f7935b14c58534442a57be3299179eb46aace2d3c8716be199ff6a6/asyncpg-0.28.0-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl.metadata
  Downloading asyncpg-0.28.0-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl.metadata (4.3 kB)
Collecting fastapi==0.101.1 (from -r requirements.txt (line 2))
...
database init done.
student@instance-1:~/genai-databases-retrieval-app/retrieval_service$

7. ক্লাউড রানে পুনরুদ্ধার পরিষেবা স্থাপন করুন

এখন আমরা ক্লাউড রানে পুনরুদ্ধার পরিষেবা স্থাপন করতে পারি। পরিষেবাটি ডাটাবেসের সাথে কাজ করার জন্য এবং একটি এআই অ্যাপ্লিকেশনের অনুরোধের ভিত্তিতে ডেটাবেস থেকে প্রয়োজনীয় তথ্য বের করার জন্য দায়ী।

সার্ভিস অ্যাকাউন্ট তৈরি করুন

পুনরুদ্ধার পরিষেবার জন্য একটি পরিষেবা অ্যাকাউন্ট তৈরি করুন এবং প্রয়োজনীয় সুযোগ-সুবিধা প্রদান করুন।

উপরের "+" চিহ্নটি ব্যবহার করে আরেকটি ক্লাউড শেল ট্যাব খুলুন।

4ca978f5142bb6ce.png

নতুন ক্লাউড শেল ট্যাবে কার্যকর করুন:

export PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts create retrieval-identity
gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member="serviceAccount:retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"
gcloud projects add-iam-policy-binding $PROJECT_ID \
--member="serviceAccount:retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com" \
  --role="roles/cloudsql.client"

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-003)$ gcloud iam service-accounts create retrieval-identity
Created service account [retrieval-identity].

ট্যাবে "প্রস্থান" কমান্ড দ্বারা ট্যাবটি বন্ধ করুন:

exit

পুনরুদ্ধার পরিষেবা স্থাপন করুন

প্রথম ট্যাবে চালিয়ে যান যেখানে আপনি পরিষেবাটি স্থাপন করে SSH এর মাধ্যমে VM এর সাথে সংযুক্ত আছেন।

ভিএম এসএসএইচ সেশনে কার্যকর করুন:

cd ~/genai-databases-retrieval-app
gcloud alpha run deploy retrieval-service \
    --source=./retrieval_service/\
    --no-allow-unauthenticated \
    --service-account retrieval-identity \
    --region us-central1 \
    --network=default \
    --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~/genai-databases-retrieval-app$ gcloud alpha run deploy retrieval-service \
    --source=./retrieval_service/\
    --no-allow-unauthenticated \
    --service-account retrieval-identity \
    --region us-central1 \
    --network=default
This command is equivalent to running `gcloud builds submit --tag [IMAGE] ./retrieval_service/` and `gcloud run deploy retrieval-service --image [IMAGE]`

Building using Dockerfile and deploying container to Cloud Run service [retrieval-service] in project [gleb-test-short-003] region [us-central1]
X Building and deploying... Done.
  ✓ Uploading sources...
  ✓ Building Container... Logs are available at [https://console.cloud.google.com/cloud-build/builds/6ebe74bf-3039-4221-b2e9-7ca8fa8dad8e?project=1012713954588].
  ✓ Creating Revision...
  ✓ Routing traffic...
    Setting IAM Policy...
Completed with warnings:
  Setting IAM policy failed, try "gcloud beta run services remove-iam-policy-binding --region=us-central1 --member=allUsers --role=roles/run.invoker retrieval-service"
Service [retrieval-service] revision [retrieval-service-00002-4pl] has been deployed and is serving 100 percent of traffic.
Service URL: https://retrieval-service-onme64eorq-uc.a.run.app
student@instance-1:~/genai-databases-retrieval-app$

পরিষেবাটি যাচাই করুন

এখন আমরা পরীক্ষা করতে পারি যে পরিষেবাটি সঠিকভাবে চলছে এবং VM-এর শেষ পয়েন্টে অ্যাক্সেস আছে কিনা। আমরা পুনরুদ্ধার পরিষেবা শেষ পয়েন্ট পেতে gcloud ইউটিলিটি ব্যবহার করি। বিকল্পভাবে আপনি ক্লাউড কনসোলে এটি পরীক্ষা করতে পারেন এবং সেখান থেকে মান দ্বারা "$(gcloud run services list –filter="(retrieval-service)" কার্ল কমান্ডটি প্রতিস্থাপন করতে পারেন।

ভিএম এসএসএইচ সেশনে কার্যকর করুন:

curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

প্রত্যাশিত কনসোল আউটপুট:

student@instance-1:~/genai-databases-retrieval-app$ curl -H "Authorization: Bearer $(gcloud auth print-identity-token)" $(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")
{"message":"Hello World"}student@instance-1:~/genai-databases-retrieval-app$

আমরা যদি "হ্যালো ওয়ার্ল্ড" বার্তাটি দেখি তবে এর অর্থ হল আমাদের পরিষেবা চলছে এবং অনুরোধগুলি পরিবেশন করছে৷

8. নমুনা অ্যাপ্লিকেশন স্থাপন করুন

এখন যখন আমাদের পুনরুদ্ধার পরিষেবা চালু আছে এবং আমরা একটি নমুনা অ্যাপ্লিকেশন স্থাপন করতে পারি যা পরিষেবাটি ব্যবহার করতে চলেছে৷ অ্যাপ্লিকেশনটি ভিএম বা অন্য কোনো পরিষেবা যেমন ক্লাউড রান, কুবারনেটস বা এমনকি স্থানীয়ভাবে ল্যাপটপে স্থাপন করা যেতে পারে। এখানে আমরা দেখাতে যাচ্ছি কিভাবে এটি VM এ স্থাপন করা যায়।

পরিবেশ প্রস্তুত করুন

আমরা একই SSH সেশন ব্যবহার করে আমাদের VM-এ কাজ চালিয়ে যাচ্ছি। আমাদের অ্যাপ্লিকেশন চালানোর জন্য আমাদের কিছু পাইথন মডিউল যোগ করতে হবে। কমান্ডটি একই পাইথন ভার্চুয়াল পরিবেশে অ্যাপ্লিকেশন ডিরেক্টরি থেকে কার্যকর করা হবে।

ভিএম এসএসএইচ সেশনে কার্যকর করুন:

cd ~/genai-databases-retrieval-app/llm_demo
pip install -r requirements.txt

প্রত্যাশিত আউটপুট (সংশোধন করা):

student@instance-1:~$ cd ~/genai-databases-retrieval-app/llm_demo
pip install -r requirements.txt
Collecting fastapi==0.104.0 (from -r requirements.txt (line 1))
  Obtaining dependency information for fastapi==0.104.0 from https://files.pythonhosted.org/packages/db/30/b8d323119c37e15b7fa639e65e0eb7d81eb675ba166ac83e695aad3bd321/fastapi-0.104.0-py3-none-any.whl.metadata
  Downloading fastapi-0.104.0-py3-none-any.whl.metadata (24 kB)
...

ক্লায়েন্ট আইডি প্রস্তুত করুন

অ্যাপ্লিকেশনটির বুকিং কার্যকারিতা ব্যবহার করতে আমাদের ক্লাউড কনসোল ব্যবহার করে OAuth 2.0 ক্লায়েন্ট আইডি প্রস্তুত করতে হবে। এটি হবে যখন আমরা অ্যাপ্লিকেশনটিতে সাইন ইন করব যেহেতু বুকিং ক্লায়েন্টদের শংসাপত্র ব্যবহার করে ডেটাবেসে বুকিং ডেটা রেকর্ড করে।

ক্লাউড কনসোলে API এবং পরিষেবাগুলিতে যান এবং "OAuth সম্মতি স্ক্রীন" এ ক্লিক করুন এবং "অভ্যন্তরীণ" ব্যবহারকারী বেছে নিন।

2400e5dcdb93eab8.png

তারপরে "তৈরি করুন" চাপুন এবং পরবর্তী স্ক্রিনে অনুসরণ করুন।

6c34d235156e571f.png

আপনাকে প্রয়োজনীয় ক্ষেত্রগুলি পূরণ করতে হবে যেমন "অ্যাপ নাম" এবং "ব্যবহারকারী সমর্থন ইমেল"। এছাড়াও আপনি একটি ডোমেন যোগ করতে পারেন যা আপনি সম্মতি স্ক্রিনে দেখাতে চান এবং অবশেষে "ডেভেলপার যোগাযোগের তথ্য"

2b7cd51aff915072.png

তারপর আপনি পৃষ্ঠার নীচে "সংরক্ষণ করুন এবং চালিয়ে যান" বোতামটি চাপুন এবং এটি আপনাকে পরবর্তী পৃষ্ঠায় নিয়ে যাবে।

d90c10c88fd347f9.png

আপনি স্কোপগুলি নির্দিষ্ট করতে না চাইলে আপনাকে সেখানে কিছু পরিবর্তন করতে হবে না। অবশেষে আপনি আবার "সংরক্ষণ করুন এবং চালিয়ে যান" বোতাম টিপে এটি নিশ্চিত করুন। এটি অ্যাপ্লিকেশন সম্মতি স্ক্রিন সেট আপ করবে।

পরবর্তী ধাপ হল ক্লায়েন্ট আইডি তৈরি করা। বাম প্যানেলে আপনি "শংসাপত্র" ক্লিক করুন যা আপনাকে OAuth2-এর শংসাপত্রের দিকে নিয়ে যায়।

7ad97432390f224c.png

এখানে আপনি উপরে "Create Credentials" এ ক্লিক করুন এবং "OAuth ClientID" নির্বাচন করুন৷ তারপর এটি অন্য একটি স্ক্রীন খুলবে৷

325a926431c8f16d.png

অ্যাপ্লিকেশন প্রকারের জন্য ড্রপডাউন তালিকা থেকে "ওয়েব অ্যাপ্লিকেশন" বাছাই করুন এবং আপনার অ্যাপ্লিকেশন URI (এবং পোর্ট - ঐচ্ছিকভাবে) "অনুমোদিত জাভাস্ক্রিপ্ট উত্স" হিসাবে রাখুন। এবং অনুমোদনের পপআপ স্ক্রীন ব্যবহার করতে সক্ষম হওয়ার জন্য আপনাকে "অনুমোদিত পুনঃনির্দেশ URIs"-এ যোগ করতে হবে শেষে "/login/google" সহ আপনার অ্যাপ্লিকেশন হোস্ট। উপরের ছবিতে আপনি দেখতে পাচ্ছেন যে আমি আমার বেস অ্যাপ্লিকেশন ইউআরআই হিসাবে http://localhost ব্যবহার করেছি।

"তৈরি করুন" বোতামটি চাপার পরে আপনি আপনার ক্লায়েন্টদের শংসাপত্র সহ একটি পপআপ উইন্ডো পাবেন।

e91adf03ec31cd15.png

আমাদের আবেদনের সাথে ব্যবহার করার জন্য পরে আমাদের ক্লায়েন্ট আইডি (এবং ঐচ্ছিকভাবে ক্লায়েন্ট সিক্রেট) প্রয়োজন হবে

সহকারী অ্যাপ্লিকেশন চালান

অ্যাপ্লিকেশন শুরু করার আগে আমাদের কিছু পরিবেশ ভেরিয়েবল সেট আপ করতে হবে। অ্যাপ্লিকেশনটির মৌলিক কার্যকারিতা যেমন কোয়েরি ফ্লাইট এবং বিমানবন্দর সুবিধার জন্য শুধুমাত্র BASE_URL প্রয়োজন যা অ্যাপ্লিকেশনটিকে পুনরুদ্ধার পরিষেবার দিকে নির্দেশ করে৷ আমরা gcloud কমান্ড ব্যবহার করে এটি পেতে পারি।

ভিএম এসএসএইচ সেশনে কার্যকর করুন:

export BASE_URL=$(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

প্রত্যাশিত আউটপুট (সংশোধন করা):

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ export BASE_URL=$(gcloud  run services list --filter="(retrieval-service)" --format="value(URL)")

অ্যাপ্লিকেশনটির আরও উন্নত ক্ষমতা যেমন বুকিং এবং ফ্লাইট পরিবর্তন করার জন্য আমাদের Google অ্যাকাউন্ট ব্যবহার করে অ্যাপ্লিকেশনটিতে সাইন-ইন করতে হবে এবং সেই উদ্দেশ্যে আমাদের প্রস্তুত ক্লায়েন্ট আইডি অধ্যায় থেকে OAuth ক্লায়েন্ট আইডি ব্যবহার করে CLIENT_ID পরিবেশ পরিবর্তনশীল প্রদান করতে হবে:

export CLIENT_ID=215....apps.googleusercontent.com

প্রত্যাশিত আউটপুট (সংশোধন করা):

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ export CLIENT_ID=215....apps.googleusercontent.com

এবং এখন আমরা আমাদের অ্যাপ্লিকেশন চালাতে পারি:

python run_app.py

প্রত্যাশিত আউটপুট:

student@instance-1:~/genai-databases-retrieval-app/llm_demo$ python main.py
INFO:     Started server process [28565]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8081 (Press CTRL+C to quit)

অ্যাপ্লিকেশনের সাথে সংযোগ করুন

আপনার কাছে VM এ চলমান অ্যাপ্লিকেশনের সাথে সংযোগ করার বিভিন্ন উপায় রয়েছে। উদাহরণস্বরূপ আপনি ভিপিসি-তে ফায়ারওয়াল নিয়ম ব্যবহার করে ভিএম-এ পোর্ট 8081 খুলতে পারেন বা পাবলিক আইপি দিয়ে একটি লোড ব্যালেন্সার তৈরি করতে পারেন। এখানে আমরা স্থানীয় পোর্ট 8080 কে VM পোর্ট 8081 এ অনুবাদ করে VM-তে একটি SSH টানেল ব্যবহার করতে যাচ্ছি।

স্থানীয় মেশিন থেকে সংযোগ

যখন আমরা একটি স্থানীয় মেশিন থেকে সংযোগ করতে চাই তখন আমাদের একটি SSH টানেল চালাতে হবে। এটি gcloud compute ssh ব্যবহার করে করা যেতে পারে:

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8081:localhost:8081

প্রত্যাশিত আউটপুট:

student-macbookpro:~ student$ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
Warning: Permanently added 'compute.7064281075337367021' (ED25519) to the list of known hosts.
Linux instance-1.us-central1-c.c.gleb-test-001.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
student@instance-1:~$

এখন আমরা ব্রাউজার খুলতে পারি এবং আমাদের অ্যাপ্লিকেশনের সাথে সংযোগ করতে http://localhost:8081 ব্যবহার করতে পারি। আমরা অ্যাপ্লিকেশন পর্দা দেখতে হবে.

c667b9013afac3f9.png

ক্লাউড শেল থেকে সংযোগ করা হচ্ছে

বিকল্পভাবে আমরা সংযোগ করতে ক্লাউড শেল ব্যবহার করতে পারি। উপরের "+" চিহ্নটি ব্যবহার করে আরেকটি ক্লাউড শেল ট্যাব খুলুন।

4ca978f5142bb6ce.png

নতুন ক্লাউড শেল ট্যাবে gcloud কমান্ডটি কার্যকর করে আপনার VM-এ টানেল চালু করুন:

gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081

এটি একটি ত্রুটি দেখাবে "অনুরোধ করা ঠিকানা বরাদ্দ করা যাবে না" - অনুগ্রহ করে এটি উপেক্ষা করুন।

এখানে প্রত্যাশিত আউটপুট:

student@cloudshell:~ gcloud compute ssh instance-1 --zone=us-central1-a -- -L 8080:localhost:8081
bind [::1]:8081: Cannot assign requested address
inux instance-1.us-central1-a.c.gleb-codelive-01.internal 6.1.0-21-cloud-amd64 #1 SMP PREEMPT_DYNAMIC Debian 6.1.90-1 (2024-05-03) x86_64

The programs included with the Debian GNU/Linux system are free software;
the exact distribution terms for each program are described in the
individual files in /usr/share/doc/*/copyright.

Debian GNU/Linux comes with ABSOLUTELY NO WARRANTY, to the extent
permitted by applicable law.
Last login: Sat May 25 19:15:46 2024 from 35.243.235.73
student@instance-1:~$

এটি আপনার ক্লাউড শেল পোর্ট 8080 খোলে যা "ওয়েব প্রিভিউ" এর জন্য ব্যবহার করা যেতে পারে।

আপনার ক্লাউড শেলের ডানদিকে এবং ড্রপ ডাউন মেনু থেকে "ওয়েব প্রিভিউ" বোতামে ক্লিক করুন এবং "পোর্ট 8080 এর পূর্বরূপ" নির্বাচন করুন।

444fbf54dcd4d160.png

এটি অ্যাপ্লিকেশন ইন্টারফেসের সাথে আপনার ওয়েব ব্রাউজারে একটি নতুন ট্যাব খোলে। আপনি "Cymbal Air Customer Service Assistant" পৃষ্ঠাটি দেখতে সক্ষম হবেন। পৃষ্ঠার ঠিকানা বারে আমরা পূর্বরূপ পৃষ্ঠার URI দেখতে পাই। আমাদের শেষে "/?authuser=0&redirectedPreviously=true" অংশটি সরাতে হবে

389f0ae2945beed5.png

এবং URI-এর প্রথম অংশ ব্যবহার করুন যেমন "https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev/" ব্রাউজার উইন্ডোতে রেখে দিতে হবে এবং " অনুমোদিত জাভাস্ক্রিপ্ট" হিসাবে প্রদান করতে হবে মূল প্রদত্ত http://localhost:8080 মানগুলি প্রতিস্থাপন বা যোগ করার জন্য "ক্লায়েন্ট আইডি প্রস্তুত করুন" অধ্যায়ে তৈরি করা আমাদের শংসাপত্রগুলির জন্য "অনুমোদিত পুনঃনির্দেশ ইউআরআই " । উপরের মানটি " https://8080-cs-35704030349-default.cs-us-east1-vpcf.cloudshell.dev " এর মত দেখাবে এবং নীচের মানটি হবে " https://8080-cs-35704030349-default৷ cs-us-east1-vpcf.cloudshell.dev/login/google "

2c37eeda0a7e2f80.png

অ্যাপ্লিকেশন সাইন ইন করুন

যখন সবকিছু সেট আপ করা হয় এবং আপনার অ্যাপ্লিকেশন খোলা থাকে, তখন আমরা আমাদের শংসাপত্রগুলি সরবরাহ করতে আমাদের অ্যাপ্লিকেশন স্ক্রিনের উপরের ডানদিকে "সাইন ইন" বোতামটি ব্যবহার করতে পারি। এটি ঐচ্ছিক এবং শুধুমাত্র যদি আপনি অ্যাপ্লিকেশনটির বুকিং কার্যকারিতা চেষ্টা করতে চান তবেই এটি প্রয়োজনীয়৷

a1f571371b957129.png

এটি একটি পপ-আপ উইন্ডো খুলবে যেখানে আমরা আমাদের শংসাপত্র নির্বাচন করতে পারি।

সাইন ইন করার পরে অ্যাপ্লিকেশনটি প্রস্তুত এবং আপনি উইন্ডোর নীচের ক্ষেত্রটিতে আপনার অনুরোধগুলি পোস্ট করা শুরু করতে পারেন৷

এই ডেমো সিম্বল এয়ার গ্রাহক পরিষেবা সহকারীকে প্রদর্শন করে। সিম্বল এয়ার একটি কাল্পনিক যাত্রীবাহী বিমান সংস্থা। সহকারী হল একটি AI চ্যাটবট যা যাত্রীদের ফ্লাইট পরিচালনা করতে এবং সান ফ্রান্সিসকো ইন্টারন্যাশনাল এয়ারপোর্টে (SFO) সিম্বল এয়ারের হাব সম্পর্কে তথ্য দেখতে সাহায্য করে।

সাইন ইন না করে (CLIENT_ID ছাড়া) এটি ব্যবহারকারীদের প্রশ্নের উত্তর দিতে সাহায্য করতে পারে যেমন:

ডেনভারের পরবর্তী ফ্লাইট কখন?

গেট C28 এর আশেপাশে কি কোন বিলাসবহুল দোকান আছে?

গেট A6 এর কাছে আমি কোথায় কফি পেতে পারি?

আমি কোথায় একটি উপহার কিনতে পারি?

10:35am এ ছাড়ার ডেনভারের ফ্লাইট বুক করুন

আপনি যখন অ্যাপ্লিকেশনটিতে সাইন ইন করেন, তখন আপনি ফ্লাইট বুকিং বা আপনার জন্য নির্ধারিত আসনটি একটি জানালা বা আইল সিট কিনা তা পরীক্ষা করার মতো অন্যান্য ক্ষমতাগুলি চেষ্টা করতে পারেন।

6e7758f707c67c3e.png

কার্যক্ষম ক্লাউড SQL ডাটাবেস থেকে ফ্লাইট এবং সুযোগ-সুবিধা সম্পর্কে তথ্যের মাধ্যমে প্রতিক্রিয়া তৈরি করতে এবং এটিকে বৃদ্ধি করতে অ্যাপ্লিকেশনটি সর্বশেষ Google ফাউন্ডেশন মডেলগুলি ব্যবহার করে৷ আপনি প্রকল্পের Github পৃষ্ঠায় এই ডেমো অ্যাপ্লিকেশন সম্পর্কে আরও পড়তে পারেন।

9. পরিবেশ পরিষ্কার করুন

সমস্ত কাজ সম্পন্ন হলে, আমরা আমাদের পরিবেশ পরিষ্কার করতে পারি।

ক্লাউড রান পরিষেবা মুছুন

ক্লাউড শেল চালান:

gcloud run services delete retrieval-service --region us-central1

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ gcloud run services delete retrieval-service --region us-central1
Service [retrieval-service] will be deleted.

Do you want to continue (Y/n)?  Y

Deleting [retrieval-service]...done.                                                                                                                                                                                                                 
Deleted service [retrieval-service].

ক্লাউড রান পরিষেবার জন্য পরিষেবা অ্যাকাউন্ট মুছুন

ক্লাউড শেল চালান:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
Your active configuration is: [cloudshell-222]
student@cloudshell:~ (gleb-test-short-004)$ gcloud iam service-accounts delete retrieval-identity@$PROJECT_ID.iam.gserviceaccount.com --quiet
deleted service account [retrieval-identity@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$

ক্লাউড এসকিউএল ইন্সট্যান্স মুছুন

আপনি ল্যাব দিয়ে সম্পন্ন হলে ক্লাউড SQL দৃষ্টান্ত ধ্বংস করুন

ক্লাউড শেলে প্রকল্প এবং পরিবেশের ভেরিয়েবলগুলি সংজ্ঞায়িত করুন যদি আপনি সংযোগ বিচ্ছিন্ন হয়ে থাকেন এবং সমস্ত পূর্ববর্তী সেটিংস হারিয়ে যায়:

export INSTANCE_NAME=my-cloudsql-instance
export PROJECT_ID=$(gcloud config get-value project)

উদাহরণ মুছুন:

gcloud sql instances delete $INSTANCE_NAME --project=$PROJECT_ID

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~$ gcloud sql instances delete $INSTANCE_NAME --project=$PROJECT_ID
All of the instance data will be lost when the instance is deleted.

Do you want to continue (Y/n)?  y

Deleting Cloud SQL instance...done.                                                                                                                
Deleted [https://sandbox.googleapis.com/v1beta4/projects/test-project-001-402417/instances/my-cloudsql-instance].

এখন আমরা আমাদের VM ধ্বংস করতে পারি

GCE VM মুছুন

ক্লাউড শেল চালান:

export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (test-project-001-402417)$ export GCEVM=instance-1
export ZONE=us-central1-a
gcloud compute instances delete $GCEVM \
    --zone=$ZONE \
    --quiet
Deleted 

GCE VM এবং পুনরুদ্ধার পরিষেবার পরিষেবা অ্যাকাউন্ট মুছুন৷

ক্লাউড শেল চালান:

PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet

প্রত্যাশিত কনসোল আউটপুট:

student@cloudshell:~ (gleb-test-short-004)$ PROJECT_ID=$(gcloud config get-value project)
gcloud iam service-accounts delete compute-aip@$PROJECT_ID.iam.gserviceaccount.com --quiet
Your active configuration is: [cloudshell-222]
deleted service account [compute-aip@gleb-test-short-004.iam.gserviceaccount.com]
student@cloudshell:~ (gleb-test-short-004)$ 

10. অভিনন্দন

কোডল্যাব সম্পূর্ণ করার জন্য অভিনন্দন।

আমরা কভার করেছি কি

  • ক্লাউড এসকিউএল ইনস্ট্যান্স কিভাবে তৈরি করবেন
  • ক্লাউড এসকিউএল ইনস্ট্যান্সের সাথে কীভাবে সংযোগ করবেন
  • কিভাবে GenAI ডেটাবেস পুনরুদ্ধার পরিষেবা কনফিগার এবং স্থাপন করবেন
  • স্থাপন করা পরিষেবা ব্যবহার করে একটি নমুনা অ্যাপ্লিকেশন কীভাবে স্থাপন করবেন

11. সমীক্ষা

আপনি কিভাবে এই টিউটোরিয়াল ব্যবহার করবেন?

শুধুমাত্র এটি মাধ্যমে পড়ুন এটি পড়ুন এবং ব্যায়াম সম্পূর্ণ করুন