عملکرد ابری که مدل‌های گاومیش کوهان دار متنی PalM را پوشش می‌دهد

1. مقدمه

این کد لبه نحوه فراخوانی یک تابع ابری را نشان می دهد که ماژول Vertex AI را مقداردهی اولیه می کند و سپس یک نقطه پایانی برای فراخوانی مدل PalM Text Bison ارائه می دهد. این تابع ابری در پایتون نوشته شده است. لیست خدمات مورد استفاده در زیر آمده است:

  • توابع ابری
  • Vertex AI PalM API

چیزی که خواهی ساخت

شما یک Cloud Function را ایجاد و مستقر خواهید کرد که یک نقطه پایانی برای فراخوانی مدل PalM Text Bison فراهم می کند.

2. الزامات

  • مرورگری مانند کروم یا فایرفاکس
  • یک پروژه Google Cloud با فعال کردن صورت‌حساب

3. قبل از شروع

  1. در Google Cloud Console ، در صفحه انتخاب پروژه، یک پروژه Google Cloud را انتخاب یا ایجاد کنید
  2. مطمئن شوید که صورتحساب برای پروژه Google Cloud شما فعال است. با نحوه بررسی فعال بودن صورت‌حساب در پروژه آشنا شوید
  3. با دنبال کردن دستورالعمل‌های اینجا ، Cloud Shell را از کنسول Google Cloud فعال کنید
  4. اگر پروژه شما تنظیم نشده است، از دستور زیر برای تنظیم آن استفاده کنید:
gcloud config set project <YOUR_PROJECT_ID>
  1. در Cloud Shell، متغیرهای محیطی زیر را تنظیم کنید:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. با اجرای دستورات زیر در ترمینال Cloud Shell، APIهای Google Cloud لازم را فعال کنید: 
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. تابع Cloud را اجرا کنید

برای ایجاد و استقرار توابع Cloud، این مراحل را دنبال کنید:

  1. با اجرای دستور زیر در ترمینال Cloud Shell خود، کد را از repo https://github.com/rominirani/genai-apptemplates-googlecloud کلون کنید:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. این دستور محتویات مخزن را در پوشه genai-templates-googlecloud کلون می کند.
  2. با اجرای دستور زیر از Cloud Shell Terminal به پوشه پروژه مورد نظر ما بروید:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. شما باید هر دو فایل main.py و requires.txt را در پوشه text-predict-cloudfunction یا با اجرای دستور dir یا با رفتن به Cloud Shell Editor ببینید.
  2. برای استقرار تابع Cloud، دستور deploy توابع gcloud را اجرا کنید:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

پس از استقرار تابع Cloud، URL تابع Cloud که مستقر شده است در ترمینال Cloud Shell نمایش داده می شود. URL در قالب زیر است:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. تابع Cloud را فراخوانی کنید

از آنجایی که این تابع ابری با یک تریگر HTTP مستقر می شود، می توانید مستقیماً آن را فراخوانی کنید. در اینجا یک نمونه تماس وجود دارد:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

خروجی به شکل زیر است:

3470e0a6d0a30b37.png

6. پاکسازی کنید

برای جلوگیری از تحمیل هزینه به حساب Google Cloud خود برای منابع استفاده شده در این پست، این مراحل را دنبال کنید:

  1. در کنسول Google Cloud، به صفحه مدیریت منابع بروید.
  2. در لیست پروژه، پروژه ای را که می خواهید حذف کنید انتخاب کنید و سپس روی Delete کلیک کنید.
  3. در محاوره، شناسه پروژه را تایپ کنید و سپس روی Shut down کلیک کنید تا پروژه حذف شود.
  4. اگر می‌خواهید پروژه خود را حفظ کنید، مراحل بالا را رد کنید و با رفتن به Cloud Function، تابع Cloud را حذف کنید و از لیست توابع، موردی را که می‌خواهید حذف کنید را علامت بزنید و روی DELETE کلیک کنید.

7. تبریک می گویم

تبریک می گویم! شما با موفقیت از یک Cloud Function استفاده کرده‌اید که مدل PalM Text Bison را می‌پیچد. برای کسب اطلاعات بیشتر در مورد مدل های موجود ، مستندات محصول Vertex AI LLM را بررسی کنید.