برنامه چت با PalM API در Cloud Run

1. معرفی

این لبه کد نحوه ساخت و استقرار یک برنامه چت مبتنی بر هوش مصنوعی را در یک برنامه وب به عنوان یک سرویس Cloud Run در Google Cloud نشان می دهد. این برنامه چت به کاربران امکان می دهد با استفاده از مدل PaLM for Chat Bison ( چت متنی ) پرس و جو کرده و پاسخ دریافت کنند.

چیزی که خواهی ساخت

شما ایجاد خواهید کرد

• محیطی در Google Cloud برای اجرای برنامه
• یک تصویر داکر برای برنامه
• یک سرویس Cloud Run که برنامه را اجرا می کند

2. الزامات

• مرورگری مانند کروم یا فایرفاکس
• یک پروژه Google Cloud با فعال کردن صورت‌حساب

3. قبل از شروع

1. در Google Cloud Console ، در صفحه انتخاب پروژه، یک پروژه Google Cloud را انتخاب یا ایجاد کنید
2. مطمئن شوید که صورتحساب برای پروژه Google Cloud شما فعال است. با نحوه بررسی فعال بودن صورت‌حساب در پروژه آشنا شوید
3. با دنبال کردن دستورالعمل‌های اینجا ، Cloud Shell را از کنسول Google Cloud فعال کنید
4. اگر پروژه شما تنظیم نشده است، از دستور زیر برای تنظیم آن استفاده کنید:

gcloud config set project <YOUR_PROJECT_ID>

5. در Cloud Shell، متغیرهای محیطی زیر را تنظیم کنید:

export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1

6. با اجرای دستورات زیر در ترمینال Cloud Shell، APIهای Google Cloud لازم را فعال کنید:

gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. محیط خود را تنظیم کنید

1. برای کپی کد نمونه در پروژه خود، مخزن را در Cloud Shell شبیه سازی کنید:

git clone https://github.com/rominirani/genai-apptemplates-googlecloud

2. این دستور محتویات مخزن را در پوشه genai-templates-googlecloud کلون می کند.
3. با اجرای دستور زیر از Cloud Shell Terminal به پوشه پروژه مورد نظر ما بروید:

cd genai-apptemplates-googlecloud/chat-flask-cloudrun

4. متغیرهای محیطی زیر را برای مقداردهی اولیه Vertex AI تنظیم کنید:

GCP_PROJECT: شناسه پروژه Google Cloud شما. به عنوان مثال: my_project.

GCP_REGION: منطقه ای که می خواهید عملکرد ابری خود را در آن مستقر کنید. به عنوان مثال: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. یک تصویر داکر بسازید

برای ساختن یک تصویر Docker برای برنامه و فشار دادن آن به Artifact Registry، موارد زیر را انجام دهید:

1. یک متغیر محیطی برای مخزن Artifact Registry تنظیم کنید. نام ها فقط می توانند شامل حروف کوچک، اعداد و خط فاصله باشند و باید با یک حرف شروع و با یک حرف یا عدد ختم شوند. به عنوان مثال: my-chat-app-repo.

export AR_REPO='my-chat-app-repo'

2. یک متغیر محیطی برای نام سرویس خود تنظیم کنید. به عنوان مثال: chat-flask-app.

export SERVICE_NAME='chat-flask-app'

3. مخزن خود را در قالب داکر ایجاد کنید.

gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker

4. احراز هویت docker را پیکربندی کنید.

gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"

5. تصویر را بسازید.

gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"

5. برای بررسی اینکه آیا تصویر به رجیستری Artifact فشار داده شده است، به صفحه ثبت Artifact بروید. به دنبال مخزنی که در این صفحه ایجاد کرده اید بگردید.

6. برنامه را مستقر کنید

1. برنامه را به عنوان سرویس در Cloud Run مستقر کنید.

gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

تکمیل این مرحله ممکن است چند ثانیه طول بکشد.

2. برای راه اندازی برنامه چت، روی URL سرویس کلیک کنید.

برنامه چت همانطور که در تصویر زیر نشان داده شده است در یک برگه جدید باز می شود:

7. پاکسازی کنید

برای جلوگیری از تحمیل هزینه به حساب Google Cloud خود برای منابع استفاده شده در این پست، این مراحل را دنبال کنید:

1. در کنسول Google Cloud، به صفحه مدیریت منابع بروید.
2. در لیست پروژه، پروژه ای را که می خواهید حذف کنید انتخاب کنید و سپس روی Delete کلیک کنید.
3. در محاوره، شناسه پروژه را تایپ کنید و سپس روی Shut down کلیک کنید تا پروژه حذف شود.
4. اگر می‌خواهید پروژه خود را حفظ کنید، مراحل بالا را رد کنید و با رفتن به Cloud Run، سرویس Cloud Run را حذف کنید و از لیست سرویس‌ها، موردی را که می‌خواهید حذف کنید را علامت بزنید و روی DELETE کلیک کنید.

8. تبریک می گویم

تبریک می گویم! شما با موفقیت یک برنامه چت مبتنی بر هوش مصنوعی را برای یک برنامه وب به عنوان یک سرویس Cloud Run در Google Cloud ساخته و اجرا کرده اید. می توانید از این برنامه چت استفاده کنید تا به کاربران خود اجازه دهید درخواست خود را وارد کنند و این برنامه مدل چت Vertex AI را فراخوانی کرده و پاسخ را ارائه می دهد.