Cloud Function ที่รวมโมเดล PaLM Text Bison

1. บทนำ

Codelab นี้แสดงวิธีเรียกใช้ Cloud Function ที่เริ่มต้นโมดูล Vertex AI จากนั้นระบุปลายทางเพื่อเรียกใช้โมเดล PaLM Text Bison Cloud Function นี้เขียนด้วย Python ต่อไปนี้เป็นรายการบริการที่ใช้

  • Cloud Functions
  • Vertex AI PaLM API

สิ่งที่คุณจะสร้าง

คุณจะสร้างและทำให้ Cloud Function ที่มีปลายทางเพื่อเรียกใช้โมเดล PaLM Text Bison ได้

2. ข้อกำหนด

  • เบราว์เซอร์ เช่น Chrome หรือ Firefox
  • โปรเจ็กต์ Google Cloud ที่เปิดใช้การเรียกเก็บเงิน

3. ก่อนเริ่มต้น

  1. ใน Google Cloud Console ในหน้าตัวเลือกโปรเจ็กต์ ให้เลือกหรือสร้างโปรเจ็กต์ Google Cloud
  2. ตรวจสอบว่าเปิดใช้การเรียกเก็บเงินสำหรับโปรเจ็กต์ Google Cloud แล้ว ดูวิธีตรวจสอบว่าเปิดใช้การเรียกเก็บเงินในโปรเจ็กต์แล้ว
  3. เปิดใช้งาน Cloud Shell จากคอนโซล Google Cloud โดยทำตามวิธีการที่นี่
  4. หากไม่ได้ตั้งค่าโปรเจ็กต์ไว้ ให้ใช้คำสั่งต่อไปนี้เพื่อตั้งค่าโปรเจ็กต์
gcloud config set project <YOUR_PROJECT_ID>
  1. ใน Cloud Shell ให้ตั้งค่าตัวแปรสภาพแวดล้อมต่อไปนี้
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. เปิดใช้ Google Cloud API ที่จำเป็นโดยเรียกใช้คำสั่งต่อไปนี้ใน Cloud Shell Terminal
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. ทำให้ Cloud Function ใช้งานได้

หากต้องการสร้างและทำให้ Cloud Functions ใช้งานได้ ให้ทำตามขั้นตอนต่อไปนี้

  1. โคลนโค้ดจากที่เก็บ https://github.com/rominirani/genai-apptemplates-googlecloud โดยเรียกใช้คำสั่งต่อไปนี้ในเทอร์มินัล Cloud Shell
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. คำสั่งนี้จะโคลนเนื้อหาของที่เก็บลงในโฟลเดอร์ genai-templates-googlecloud
  2. ไปที่โฟลเดอร์ของโปรเจ็กต์ที่เราสนใจโดยเรียกใช้คำสั่งต่อไปนี้จากเทอร์มินัล Cloud Shell
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. คุณควรเห็นทั้งไฟล์ main.py และ requirements.txt ในโฟลเดอร์ text-predict-cloudfunction โดยใช้คำสั่ง dir หรือไปที่ Cloud Shell Editor
  2. หากต้องการทำให้ Cloud Function ใช้งานได้ ให้เรียกใช้คำสั่งใช้งานฟังก์ชัน gcloud ดังนี้
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

หลังจากที่คุณทำให้ Cloud Function ใช้งานได้แล้ว URL ของ Cloud Function ที่ทำให้ใช้งานได้แล้วจะแสดงบนเทอร์มินัล Cloud Shell URL จะมีรูปแบบดังนี้

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. เรียกใช้ Cloud Function

เนื่องจากมีการทำให้ Cloud Function นี้ใช้งานได้ด้วยทริกเกอร์ HTTP คุณจึงเรียกใช้ได้โดยตรง การโทรตัวอย่างมีดังนี้

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

ผลลัพธ์จะมีลักษณะดังนี้

3470e0a6d0a30b37.png

6. ล้างข้อมูล

โปรดทำตามขั้นตอนต่อไปนี้เพื่อเลี่ยงไม่ให้เกิดการเรียกเก็บเงินกับบัญชี Google Cloud สำหรับทรัพยากรที่ใช้ในโพสต์นี้

  1. ในคอนโซล Google Cloud ให้ไปที่หน้าจัดการทรัพยากร
  2. ในรายการโปรเจ็กต์ ให้เลือกโปรเจ็กต์ที่ต้องการลบ แล้วคลิกลบ
  3. ในกล่องโต้ตอบ ให้พิมพ์รหัสโปรเจ็กต์ แล้วคลิกปิดเครื่องเพื่อลบโปรเจ็กต์
  4. หากต้องการเก็บโปรเจ็กต์ไว้ ให้ข้ามขั้นตอนข้างต้นและลบ Cloud Function โดยไปที่ Cloud Functions และจากรายการฟังก์ชัน ให้เลือกฟังก์ชันที่ต้องการลบ แล้วคลิก "ลบ"

7. ขอแสดงความยินดี

ยินดีด้วย คุณใช้ Cloud Function ที่รวมโมเดล PaLM Text Bison เรียบร้อยแล้ว ดูข้อมูลเพิ่มเติมเกี่ยวกับโมเดลที่พร้อมใช้งานได้ในเอกสารประกอบผลิตภัณฑ์ Vertex AI LLM