แอป Chat ที่มี PaLM API ใน Cloud Run

1. บทนำ

Codelab นี้แสดงวิธีสร้างและทำให้ใช้งานได้แอปแชทที่ใช้ AI ในเว็บแอปพลิเคชันเป็นบริการ Cloud Run ใน Google Cloud แอปแชทนี้ช่วยให้ผู้ใช้ค้นหาและรับคำตอบได้โดยใช้โมเดล PaLM for Chat Bison ( text-chat)

สิ่งที่คุณจะสร้าง

คุณจะสร้าง

  • สภาพแวดล้อมใน Google Cloud เพื่อเรียกใช้แอปพลิเคชัน
  • อิมเมจ Docker สำหรับแอปพลิเคชัน
  • บริการ Cloud Run ที่เรียกใช้แอปพลิเคชัน

2. ข้อกำหนด

  • เบราว์เซอร์ เช่น Chrome หรือ Firefox
  • โปรเจ็กต์ Google Cloud ที่เปิดใช้การเรียกเก็บเงิน

3. ก่อนเริ่มต้น

  1. ในคอนโซล Google Cloud ให้เลือกหรือสร้างโปรเจ็กต์ Google Cloud ในหน้าตัวเลือกโปรเจ็กต์
  2. ตรวจสอบว่าได้เปิดใช้การเรียกเก็บเงินสำหรับโปรเจ็กต์ Google Cloud แล้ว ดูวิธีตรวจสอบว่าโปรเจ็กต์เปิดใช้การเรียกเก็บเงินแล้วหรือไม่
  3. เปิดใช้งาน Cloud Shell จากคอนโซล Google Cloud โดยทำตามวิธีการที่นี่
  4. หากไม่ได้ตั้งค่าโปรเจ็กต์ ให้ใช้คำสั่งต่อไปนี้เพื่อตั้งค่า
gcloud config set project <YOUR_PROJECT_ID>
  1. ใน Cloud Shell ให้ตั้งค่าตัวแปรสภาพแวดล้อมต่อไปนี้
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. เปิดใช้ Google Cloud APIs ที่จำเป็นโดยการเรียกใช้คำสั่งต่อไปนี้ในเทอร์มินัล Cloud Shell
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. ตั้งค่าสภาพแวดล้อม

  1. หากต้องการคัดลอกโค้ดตัวอย่างไปยังโปรเจ็กต์ ให้โคลนที่เก็บใน Cloud Shell โดยใช้คำสั่งต่อไปนี้
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. คำสั่งนี้จะโคลนเนื้อหาของที่เก็บไปยังโฟลเดอร์ genai-templates-googlecloud
  2. ไปที่โฟลเดอร์ของโปรเจ็กต์ที่เราสนใจโดยเรียกใช้คำสั่งต่อไปนี้จากเทอร์มินัล Cloud Shell
cd genai-apptemplates-googlecloud/chat-flask-cloudrun
  1. ตั้งค่าตัวแปรสภาพแวดล้อมต่อไปนี้สำหรับการเริ่มต้น Vertex AI

GCP_PROJECT : รหัสโปรเจ็กต์ Google Cloud เช่น my_project

GCP_REGION : ภูมิภาคที่คุณต้องการทำให้ Cloud Function ใช้งานได้ เช่น us-central1

export GCP_PROJECT='YOUR_PROJECT'
export GCP_REGION='us-central1'

5. สร้างอิมเมจ Docker

หากต้องการสร้างอิมเมจ Docker สำหรับแอปพลิเคชันและพุชไปยัง Artifact Registry ให้ทำดังนี้

  1. ตั้งค่าตัวแปรสภาพแวดล้อมสำหรับที่เก็บ Artifact Registry ชื่อต้องมีเฉพาะตัวอักษรพิมพ์เล็ก ตัวเลข และขีดกลางเท่านั้น โดยต้องขึ้นต้นด้วยตัวอักษรและลงท้ายด้วยตัวอักษรหรือตัวเลข เช่น my-chat-app-repo
export AR_REPO='my-chat-app-repo'
  1. ตั้งค่าตัวแปรสภาพแวดล้อมสำหรับชื่อบริการ เช่น chat-flask-app
export SERVICE_NAME='chat-flask-app'
  1. สร้างที่เก็บในรูปแบบ Docker
gcloud artifacts repositories create "$AR_REPO" --location="$GCP_REGION" --repository-format=Docker
  1. กำหนดค่าการตรวจสอบสิทธิ์ Docker
gcloud auth configure-docker "$GCP_REGION-docker.pkg.dev"
  1. สร้างอิมเมจ
gcloud builds submit --tag "$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME"
  1. หากต้องการยืนยันว่ามีการพุชอิมเมจไปยัง Artifact Registry หรือไม่ ให้ไปที่หน้า Artifact Registry มองหารีโปซิโทรีที่คุณสร้างในหน้านี้

6. ทำให้แอปพลิเคชันใช้งานได้

  1. ทำให้ใช้งานได้แอปพลิเคชันเป็นบริการใน Cloud Run
gcloud run deploy "$SERVICE_NAME" \ 
--port=8080 \ 
--image="$GCP_REGION-docker.pkg.dev/$GCP_PROJECT/$AR_REPO/$SERVICE_NAME" \ 
--allow-unauthenticated \ 
--region=$GCP_REGION \ 
--platform=managed  \ 
--project=$GCP_PROJECT \ 
--set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION

ขั้นตอนนี้อาจใช้เวลาสักครู่จึงจะเสร็จสมบูรณ์

  1. หากต้องการเปิดแอปพลิเคชันแชท ให้คลิก URL ของบริการ

56c06b62e0ac95bf.png

แอปพลิเคชันแชทจะเปิดขึ้นในแท็บใหม่ดังที่แสดงในภาพหน้าจอต่อไปนี้

eebde9c35c171563.png

7. ล้างข้อมูล

โปรดทำตามขั้นตอนต่อไปนี้เพื่อเลี่ยงไม่ให้เกิดการเรียกเก็บเงินกับบัญชี Google Cloud สำหรับทรัพยากรที่ใช้ในโพสต์นี้

  1. ในคอนโซล Google Cloud ให้ไปที่หน้าจัดการทรัพยากร
  2. ในรายการโปรเจ็กต์ ให้เลือกโปรเจ็กต์ที่ต้องการลบ แล้วคลิกลบ
  3. ในกล่องโต้ตอบ ให้พิมพ์รหัสโปรเจ็กต์ แล้วคลิกปิดเพื่อลบโปรเจ็กต์
  4. หากต้องการเก็บโปรเจ็กต์ไว้ ให้ข้ามขั้นตอนข้างต้นและลบบริการ Cloud Run โดยไปที่ Cloud Run แล้วเลือกบริการที่ต้องการลบจากรายการบริการ จากนั้นคลิกลบ

8. ขอแสดงความยินดี

ยินดีด้วย คุณสร้างและทำให้แอปแชทที่ใช้ AI สำหรับเว็บแอปพลิเคชันใช้งานได้เป็นบริการ Cloud Run ใน Google Cloud เรียบร้อยแล้ว คุณสามารถใช้แอปแชทนี้เพื่อให้ผู้ใช้ป้อนคำค้นหาของตนเอง แล้วแอปนี้จะเรียกใช้โมเดลแชทของ Vertex AI และแสดงคำตอบ