Cloud Functions-Funktion, die die PaLM-Text-Bison-Modelle umschließt

1. Einführung

In diesem Codelab erfahren Sie, wie Sie eine Cloud Functions-Funktion aufrufen, die das Vertex AI-Modul initialisiert und dann einen Endpunkt zum Aufrufen des PaLM Text Bison-Modells bereitstellt. Diese Cloud Functions-Funktion ist in Python geschrieben. Im Folgenden finden Sie eine Liste der verwendeten Dienste:

  • Cloud Functions
  • Vertex AI PaLM API

Inhalt

Sie erstellen eine Cloud Functions-Funktion und stellen sie bereit, die einen Endpunkt zum Aufrufen des PaLM Text Bison-Modells bereitstellt.

2. Voraussetzungen

  • Ein Browser wie Chrome oder Firefox
  • Ein Google Cloud-Projekt mit aktivierter Abrechnung

3. Hinweis

  1. Wählen Sie in der Google Cloud Console auf der Seite für die Projektauswahl ein Google Cloud-Projekt aus oder erstellen Sie eines.
  2. Die Abrechnung für Ihr Google Cloud-Projekt muss aktiviert sein. Prüfen, ob die Abrechnung für ein Projekt aktiviert ist
  3. Aktivieren Sie Cloud Shell über die Google Cloud Console, indem Sie dieser Anleitung folgen.
  4. Wenn Ihr Projekt noch nicht eingerichtet ist, verwenden Sie den folgenden Befehl, um es festzulegen:
gcloud config set project <YOUR_PROJECT_ID>
  1. Legen Sie in Cloud Shell die folgenden Umgebungsvariablen fest:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
  1. Aktivieren Sie die erforderlichen Google Cloud APIs. Führen Sie dazu die folgenden Befehle im Cloud Shell-Terminal aus:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com

4. Cloud Functions-Funktion bereitstellen

So erstellen und stellen Sie Cloud Functions-Funktionen bereit:

  1. Klonen Sie Code aus dem Repository https://github.com/rominirani/genai-apptemplates-googlecloud. Führen Sie dazu den folgenden Befehl in Ihrem Cloud Shell-Terminal aus:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
  1. Mit diesem Befehl wird der Repository-Inhalt in den Ordner „genai-templates-googlecloud“ geklont.
  2. Rufen Sie den Ordner des gewünschten Projekts auf, indem Sie im Cloud Shell-Terminal den folgenden Befehl ausführen:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
  1. Die Dateien main.py und requirements.txt sollten im Ordner „text-predict-cloudfunction“ angezeigt werden. Führen Sie dazu entweder den Befehl dir aus oder rufen Sie den Cloud Shell-Editor auf.
  2. Führen Sie den Befehl gcloudfunctions deploy aus, um die Cloud Functions-Funktion bereitzustellen:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1

Nachdem Sie die Cloud Functions-Funktion bereitgestellt haben, wird die URL der bereitgestellten Cloud Functions-Funktion im Cloud Shell-Terminal angezeigt. Die URL hat folgendes Format:

https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText

5. Cloud Functions-Funktion aufrufen

Da diese Cloud Functions-Funktion mit einem HTTP-Trigger bereitgestellt wird, können Sie sie direkt aufrufen. Hier ist ein Beispielaufruf:

curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
  "prompt": "What are the best places to visit in the United States?"
}'

Sie erhalten folgende Ausgabe:

3470e0a6d0a30b37.png

6. Bereinigen

So vermeiden Sie, dass Ihrem Google Cloud-Konto die in diesem Beitrag verwendeten Ressourcen in Rechnung gestellt werden:

  1. Rufen Sie in der Google Cloud Console die Seite Ressourcen verwalten auf.
  2. Wählen Sie in der Projektliste das Projekt aus, das Sie löschen möchten, und klicken Sie auf Löschen.
  3. Geben Sie im Dialogfeld die Projekt-ID ein und klicken Sie auf Beenden, um das Projekt zu löschen.
  4. Wenn Sie Ihr Projekt behalten möchten, überspringen Sie die obigen Schritte und löschen Sie die Cloud Functions-Funktion. Rufen Sie dazu Cloud Functions auf. Wählen Sie in der Liste der Funktionen die Funktion aus, die Sie löschen möchten, und klicken Sie auf LÖSCHEN.

7. Glückwunsch

Glückwunsch! Sie haben erfolgreich eine Cloud Functions-Funktion verwendet, die das PaLM-Text-Bison-Modell umschließt. Weitere Informationen zu verfügbaren Modellen finden Sie in der Produktdokumentation zu Vertex AI LLM.