Cloud Function ที่รวมโมเดล PaLM Text Bison

Cloud Function ที่รวมโมเดล PaLM Text Bison

เกี่ยวกับ Codelab นี้

subjectอัปเดตล่าสุดเมื่อ พ.ค. 2, 2024
account_circleเขียนโดย Romin Irani, Muthu Sankaralingam

1 บทนำ

Codelab นี้แสดงวิธีเรียกใช้ Cloud Function ที่เริ่มต้นโมดูล Vertex AI จากนั้นระบุปลายทางเพื่อเรียกใช้โมเดล PaLM Text Bison Cloud Function นี้เขียนด้วย Python ต่อไปนี้เป็นรายการบริการที่ใช้

  • Cloud Functions
  • Vertex AI PaLM API

สิ่งที่คุณจะสร้าง

คุณจะสร้างและทำให้ Cloud Function ที่มีปลายทางเพื่อเรียกใช้โมเดล PaLM Text Bison ได้

2 ข้อกำหนด

  • เบราว์เซอร์ เช่น Chrome หรือ Firefox
  • โปรเจ็กต์ Google Cloud ที่เปิดใช้การเรียกเก็บเงิน

3 ก่อนเริ่มต้น

  1. ใน Google Cloud Console ในหน้าตัวเลือกโปรเจ็กต์ ให้เลือกหรือสร้างโปรเจ็กต์ Google Cloud
  2. ตรวจสอบว่าเปิดใช้การเรียกเก็บเงินสำหรับโปรเจ็กต์ Google Cloud แล้ว ดูวิธีตรวจสอบว่าเปิดใช้การเรียกเก็บเงินในโปรเจ็กต์แล้ว
  3. เปิดใช้งาน Cloud Shell จากคอนโซล Google Cloud โดยทำตามวิธีการที่นี่
  4. หากไม่ได้ตั้งค่าโปรเจ็กต์ไว้ ให้ใช้คำสั่งต่อไปนี้เพื่อตั้งค่าโปรเจ็กต์
gcloud config set project <YOUR_PROJECT_ID>
  1. ใน Cloud Shell ให้ตั้งค่าตัวแปรสภาพแวดล้อมต่อไปนี้
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. เปิดใช้ Google Cloud API ที่จำเป็นโดยเรียกใช้คำสั่งต่อไปนี้ใน Cloud Shell Terminal
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4 ทำให้ Cloud Function ใช้งานได้

หากต้องการสร้างและทำให้ Cloud Functions ใช้งานได้ ให้ทำตามขั้นตอนต่อไปนี้

  1. โคลนโค้ดจากที่เก็บ https://github.com/rominirani/genai-apptemplates-googlecloud โดยเรียกใช้คำสั่งต่อไปนี้ในเทอร์มินัล Cloud Shell
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. คำสั่งนี้จะโคลนเนื้อหาของที่เก็บลงในโฟลเดอร์ genai-templates-googlecloud
  2. ไปที่โฟลเดอร์ของโปรเจ็กต์ที่เราสนใจโดยเรียกใช้คำสั่งต่อไปนี้จากเทอร์มินัล Cloud Shell
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. คุณควรเห็นทั้งไฟล์ main.py และ requirements.txt ในโฟลเดอร์ text-predict-cloudfunction โดยใช้คำสั่ง dir หรือไปที่ Cloud Shell Editor
  2. หากต้องการทำให้ Cloud Function ใช้งานได้ ให้เรียกใช้คำสั่งใช้งานฟังก์ชัน gcloud ดังนี้
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

หลังจากที่คุณทำให้ Cloud Function ใช้งานได้แล้ว URL ของ Cloud Function ที่ทำให้ใช้งานได้แล้วจะแสดงบนเทอร์มินัล Cloud Shell URL จะมีรูปแบบดังนี้

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5 เรียกใช้ Cloud Function

เนื่องจากมีการทำให้ Cloud Function นี้ใช้งานได้ด้วยทริกเกอร์ HTTP คุณจึงเรียกใช้ได้โดยตรง การโทรตัวอย่างมีดังนี้

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

ผลลัพธ์จะมีลักษณะดังนี้

3470e0a6d0a30b37.png

6 ล้างข้อมูล

โปรดทำตามขั้นตอนต่อไปนี้เพื่อเลี่ยงไม่ให้เกิดการเรียกเก็บเงินกับบัญชี Google Cloud สำหรับทรัพยากรที่ใช้ในโพสต์นี้

  1. ในคอนโซล Google Cloud ให้ไปที่หน้าจัดการทรัพยากร
  2. ในรายการโปรเจ็กต์ ให้เลือกโปรเจ็กต์ที่ต้องการลบ แล้วคลิกลบ
  3. ในกล่องโต้ตอบ ให้พิมพ์รหัสโปรเจ็กต์ แล้วคลิกปิดเครื่องเพื่อลบโปรเจ็กต์
  4. หากต้องการเก็บโปรเจ็กต์ไว้ ให้ข้ามขั้นตอนข้างต้นและลบ Cloud Function โดยไปที่ Cloud Functions และจากรายการฟังก์ชัน ให้เลือกฟังก์ชันที่ต้องการลบ แล้วคลิก "ลบ"

7 ขอแสดงความยินดี

ยินดีด้วย คุณใช้ Cloud Function ที่รวมโมเดล PaLM Text Bison เรียบร้อยแล้ว ดูข้อมูลเพิ่มเติมเกี่ยวกับโมเดลที่พร้อมใช้งานได้ในเอกสารประกอบผลิตภัณฑ์ Vertex AI LLM