納入 PaLM Text Bison 模型的 Cloud 函式

1. 簡介

本程式碼研究室將說明如何叫用 Cloud 函式來初始化 Vertex AI 模組，然後提供可叫用 PaLM Text Bison 模型的端點。這是以 Python 編寫的 Cloud 函式。以下列出使用的服務：

  • Cloud Functions
  • Vertex AI PaLM API

建構項目

您將建立及部署提供端點以叫用 PaLM Text Bison 模型的 Cloud 函式。

2. 需求條件

  • 瀏覽器，例如 Chrome 或 Firefox
  • 已啟用計費功能的 Google Cloud 專案

3. 事前準備

  1. 前往 Google Cloud 控制台的專案選取器頁面，選取或建立 Google Cloud 專案
  2. 確認 Google Cloud 專案已啟用計費功能。瞭解如何檢查專案是否已啟用帳單功能
  3. 按照這裡的操作說明，透過 Google Cloud 控制台啟動 Cloud Shell
  4. 如果尚未設定專案，請使用下列指令進行設定：
gcloud config set project <YOUR_PROJECT_ID>
  1. 在 Cloud Shell 中，設定下列環境變數：
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. 在 Cloud Shell 終端機中執行下列指令，啟用必要的 Google Cloud API：
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. 部署 Cloud 函式

如要建立及部署 Cloud Functions，請按照下列步驟操作：

  1. 在 Cloud Shell 終端機中執行下列指令，從存放區 https://github.com/rominirani/genai-apptemplates-googlecloud 複製程式碼：
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. 這個指令會將存放區內容複製到 genai-templates-googlecloud 資料夾。
  2. 在 Cloud Shell 終端機執行下列指令，前往關注的專案資料夾：
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. 您可以執行 dir 指令或前往 Cloud Shell 編輯器，在 text-predict-cloudfunction 資料夾中看到 main.py 和 requirements.txt 檔案。
  2. 如要部署 Cloud 函式，請執行 gcloud functions deploy 指令：
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

部署 Cloud 函式後，Cloud Shell 終端機中會顯示已部署的 Cloud 函式網址。網址的格式如下：

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. 叫用 Cloud 函式

這個 Cloud 函式是透過 HTTP 觸發條件部署，因此可以直接叫用該函式。以下是呼叫範例：

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

輸出如下所示：

3470e0a6d0a30b37.png

6. 清除所用資源

如要避免系統向您的 Google Cloud 帳戶收取本文中所用資源的費用，請按照下列步驟操作：

  1. 在 Google Cloud 控制台中，前往「管理資源」頁面。
  2. 在專案清單中選取要刪除的專案，然後按一下「Delete」(刪除)。
  3. 在對話方塊中輸入專案 ID，然後按一下「Shut down」(關閉) 即可刪除專案。
  4. 如要保留專案，請略過上述步驟並刪除 Cloud 函式，方法是前往 Cloud Functions 頁面，在函式清單中勾選要刪除的函式，然後按一下「刪除」。

7. 恭喜

恭喜！您已成功使用納入 PaLM 文字 Bison 模型的 Cloud 函式。如要進一步瞭解可用的模型，請參閱 Vertex AI LLM 產品說明文件。