納入 PaLM Text Bison 模型的 Cloud 函式

1. 簡介

本程式碼實驗室說明如何叫用 Cloud 函式，初始化 Vertex AI 模組，然後提供端點來叫用 PaLM Text Bison 模型。這個 Cloud 函式是以 Python 編寫。您使用的服務如下：

  • Cloud Functions
  • Vertex AI PaLM API

建構項目

您將建立及部署 Cloud 函式，提供叫用 PaLM Text Bison 模型的端點。

2. 需求條件

  • Chrome 或 Firefox 瀏覽器
  • 已啟用計費功能的 Google Cloud 雲端專案

3. 事前準備

  1. 在 Google Cloud 控制台的專案選取器頁面中，選取或建立 Google Cloud 專案
  2. 確保您的 Google Cloud 雲端專案有啟用計費服務。瞭解如何檢查專案是否已啟用計費功能
  3. 按照這裡的說明，從 Google Cloud 控制台啟用 Cloud Shell
  4. 如果未設定專案，請使用下列指令來設定：
gcloud config set project <YOUR_PROJECT_ID>
  1. 在 Cloud Shell 中設定下列環境變數：
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. 在 Cloud Shell 終端機執行下列指令，啟用必要的 Google Cloud API：
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. 部署 Cloud 函式

如要建立及部署 Cloud Functions，請按照下列步驟操作：

  1. 在 Cloud Shell 終端機中執行下列指令，從存放區複製程式碼：https://github.com/rominirani/genai-apptemplates-googlecloud
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. 這個指令會將存放區內容複製到 genai-templates-googlecloud 資料夾。
  2. 在 Cloud Shell 終端機執行下列指令，前往我們感興趣的專案資料夾：
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. 執行 dir 指令或前往 Cloud Shell 編輯器後，您應該會在 text-predict-cloudfunction 資料夾中看到 main.py 和 requirements.txt 檔案。
  2. 如要部署 Cloud Function，請執行 gcloud functions deploy 指令：
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

部署 Cloud 函式後，Cloud Shell 終端機會顯示已部署的 Cloud 函式網址。網址格式如下：

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. 叫用 Cloud 函式

由於這個 Cloud Functions 是使用 HTTP 觸發條件部署，因此您可以直接叫用。以下是呼叫範例：

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

輸出如下所示：

3470e0a6d0a30b37.png

6. 清理

如要避免系統向您的 Google Cloud 帳戶收取本文章所用資源的費用，請按照下列步驟操作：

  1. 在 Google Cloud 控制台中前往「管理資源」頁面。
  2. 在專案清單中選取要刪除的專案，然後按一下「刪除」。
  3. 在對話方塊中輸入專案 ID，然後按一下「Shut down」(關機) 即可刪除專案。
  4. 如要保留專案，請略過上述步驟，然後前往 Cloud Functions，從函式清單中勾選要刪除的函式，並按一下「刪除」。

7. 恭喜

恭喜！您已成功使用包裝 PaLM Text Bison 模型的 Cloud 函式。如要進一步瞭解可用模型，請參閱 Vertex AI LLM 產品說明文件。