برنامه چت با PalM API در Cloud Run

۱. مقدمه

این آزمایشگاه کد، نحوه ساخت و استقرار یک برنامه چت مبتنی بر هوش مصنوعی را بر روی یک برنامه وب به عنوان یک سرویس Cloud Run در Google Cloud نشان می‌دهد. این برنامه چت به کاربران اجازه می‌دهد با استفاده از مدل PaLM برای Chat Bison ( چت متنی ) پرس و جو کنند و پاسخ دریافت کنند.

آنچه خواهید ساخت

شما خلق خواهید کرد

  • محیطی در فضای ابری گوگل برای اجرای برنامه
  • یک تصویر داکر برای برنامه
  • یک سرویس Cloud Run که برنامه را اجرا می‌کند

۲. الزامات

  • یک مرورگر، مانند کروم یا فایرفاکس
  • یک پروژه گوگل کلود با قابلیت پرداخت صورتحساب

۳. قبل از شروع

  1. در کنسول گوگل کلود ، در صفحه انتخاب پروژه، یک پروژه گوگل کلود را انتخاب یا ایجاد کنید
  2. مطمئن شوید که صورتحساب برای پروژه Google Cloud شما فعال است. یاد بگیرید که چگونه بررسی کنید که آیا صورتحساب در یک پروژه فعال است یا خیر
  3. با دنبال کردن دستورالعمل‌های اینجا ، Cloud Shell را از کنسول Google Cloud فعال کنید.
  4. اگر پروژه شما تنظیم نشده است، از دستور زیر برای تنظیم آن استفاده کنید:
gcloud config set project <YOUR_PROJECT_ID>
  1. در Cloud Shell، متغیرهای محیطی زیر را تنظیم کنید:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. با اجرای دستورات زیر در ترمینال Cloud Shell، APIهای لازم Google Cloud را فعال کنید:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

۴. محیط خود را آماده کنید

  1. برای کپی کردن کد نمونه در پروژه خود، مخزن را در Cloud Shell کلون کنید:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. این دستور محتویات مخزن را در پوشه genai-templates-googlecloud کپی می‌کند.
  2. با اجرای دستور زیر از ترمینال Cloud Shell به پوشه پروژه مورد نظر خود بروید:
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
  1. متغیرهای محیطی زیر را برای مقداردهی اولیه Vertex AI تنظیم کنید:

GCP_PROJECT: شناسه پروژه گوگل کلود شما. برای مثال: my_project.

GCP_REGION: منطقه‌ای که می‌خواهید تابع ابری خود را در آن مستقر کنید. برای مثال: us-central1.

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

۵. ساخت یک ایمیج داکر

برای ساخت یک تصویر داکر برای برنامه و ارسال آن به رجیستری Artifact، موارد زیر را انجام دهید:

  1. یک متغیر محیطی برای مخزن Artifact Registry تنظیم کنید. نام‌ها فقط می‌توانند شامل حروف کوچک، اعداد و خط فاصله باشند و باید با یک حرف شروع شوند و با یک حرف یا عدد پایان یابند. برای مثال: my-chat-app-repo.
export AR_REPO='my-chat-app-repo'
  1. یک متغیر محیطی برای نام سرویس خود تنظیم کنید. برای مثال: chat-flask-app.
export SERVICE_NAME='chat-flask-app'
  1. مخزن خود را در قالب Docker ایجاد کنید.
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
  1. پیکربندی احراز هویت داکر
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
  1. تصویر را بسازید.
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
  1. برای تأیید اینکه آیا تصویر به رجیستری مصنوعات ارسال شده است، به صفحه رجیستری مصنوعات بروید. در این صفحه به دنبال مخزنی که ایجاد کرده‌اید بگردید.

۶. برنامه را مستقر کنید

  1. برنامه را به عنوان سرویس روی Cloud Run مستقر کنید.
gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

این مرحله ممکن است چند ثانیه طول بکشد تا تکمیل شود.

  1. برای اجرای برنامه چت، روی آدرس اینترنتی سرویس کلیک کنید.

56c06b62e0ac95bf.png

برنامه چت در یک تب جدید باز می‌شود، همانطور که در تصویر زیر نشان داده شده است:

eebde9c35c171563.png

۷. تمیز کردن

برای جلوگیری از تحمیل هزینه به حساب Google Cloud خود برای منابع استفاده شده در این پست، این مراحل را دنبال کنید:

  1. در کنسول گوگل کلود، به صفحه مدیریت منابع بروید.
  2. در لیست پروژه‌ها، پروژه‌ای را که می‌خواهید حذف کنید انتخاب کنید و سپس روی حذف کلیک کنید.
  3. در کادر محاوره‌ای، شناسه پروژه را تایپ کنید و سپس برای حذف پروژه، روی خاموش کردن کلیک کنید.
  4. اگر می‌خواهید پروژه خود را حفظ کنید، مراحل بالا را رد کنید و سرویس Cloud Run را با رفتن به Cloud Run و از لیست سرویس‌ها، سرویسی که می‌خواهید حذف کنید را علامت بزنید و روی DELETE کلیک کنید.

۸. تبریک

تبریک! شما با موفقیت یک برنامه چت مبتنی بر هوش مصنوعی را برای یک برنامه وب به عنوان یک سرویس Cloud Run در Google Cloud ساختید و مستقر کردید. می‌توانید از این برنامه چت استفاده کنید تا به کاربران خود اجازه دهید درخواست خود را وارد کنند و این برنامه مدل چت Vertex AI را فراخوانی کرده و پاسخ را ارائه می‌دهد.