Создайте пул рабочих процессов Cloud Run для подписок Pub/Sub на основе Pull

1. Введение

Обзор

Пулы рабочих процессов — это ресурс Cloud Run, специально разработанный для рабочих нагрузок, не требующих запросов, таких как pull-очереди. Обратите внимание, что пулы рабочих процессов не обладают следующими функциями:

  • Нет конечной точки/URL
  • Развернутому контейнеру не требуется прослушивать запросы в порту.
  • Нет автоматического масштабирования

В этой лабораторной работе вы создадите пул рабочих процессов, который будет непрерывно извлекать сообщения из подписки Pub/Sub. Подробнее о подписках Pub/Sub можно узнать в документации и в этом примере кода .

Чему вы научитесь

  • Как создать и развернуть пул рабочих процессов Cloud Run
  • Как извлечь сообщения из подписки Pub/Sub на основе Pull-based

2. Настройка и требования

Сначала задайте переменные среды для этой лабораторной работы:

export PROJECT_ID=<your_project_id>
export REGION=<your_region>

export WORKER_POOL_NAME=codelab-workers-pubsub
export SERVICE_ACCOUNT=worker-pools-sa
export SERVICE_ACCOUNT_EMAIL=${SERVICE_ACCOUNT}@${PROJECT_ID}.iam.gserviceaccount.com
export TOPIC=pull-pubsub-topic

Затем настройте gcloud на использование идентификатора вашего проекта.

gcloud config set project $PROJECT_ID

Прежде чем приступить к использованию этой лабораторной работы, включите следующие API, выполнив:

gcloud services enable run.googleapis.com \
    cloudbuild.googleapis.com \
    artifactregistry.googleapis.com \
    pubsub.googleapis.com

Создайте учетную запись службы, выполнив:

gcloud iam service-accounts create ${SERVICE_ACCOUNT} \
  --display-name="Service account for worker pool codelab"

Наконец, предоставьте вашей учетной записи службы Cloud Run доступ к PubSub:

gcloud projects add-iam-policy-binding $PROJECT_ID \
    --member serviceAccount:$SERVICE_ACCOUNT_EMAIL \
    --role='roles/pubsub.admin'

3. Создайте пул рабочих процессов Cloud Run.

Сначала создайте каталог для кода вашего рабочего пула:

mkdir codelab-worker-pools
cd codelab-worker-pools

Далее создайте файл с именем package.json

{
    "name": "codelab-worker-pools",
    "version": "1.0.0",
    "description": "A codelab example of a Cloud Run worker pool retrieving messages from a Pull-based PubSub subscription",
    "main": "index.js",
    "scripts": {
        "start": "node index.js"
    },
    "engines": {
        "node": ">=22.0.0"
    },
    "keywords": [],
    "author": "",
    "license": "ISC",
    "dependencies": {
        "@google-cloud/pubsub": "^5.1.0"
    }
}

Теперь создайте файл с именем index.js :

'use strict';

const subscriptionNameOrId = 'pull-pubsub-topic';

const { PubSub } = require('@google-cloud/pubsub');

// Creates a Pub/Sub client; cache this for further use.
const pubSubClient = new PubSub();

// References an existing subscription.
const subscription = pubSubClient.subscription(subscriptionNameOrId);

// This function is called when a shutdown signal is received.
const handleShutdown = async (signal) => {
  console.log(`\n${signal} signal caught. Shutting down gracefully...`);

  try {
    // 1. Stop listening for new messages. The `close()` method returns a Promise.
    console.log('Closing Pub/Sub subscription...');
    await subscription.close();
    console.log('Pub/Sub subscription closed.');

    // 2. Add any other cleanup logic here, like closing database connections.

  } catch (err) {
    console.error('Error during graceful shutdown:', err);
  } finally {
    console.log('Worker Pool exited.');
    process.exit(0);
  }
};

// Listen for termination signals.
// SIGINT handles Ctrl+C locally.
// SIGTERM handles signals from services like Cloud Run.
process.on('SIGINT', () => handleShutdown('SIGINT'));
process.on('SIGTERM', () => handleShutdown('SIGTERM'));

// ------------------ Pub/Sub Message Handling ------------------

// Create an event handler to process incoming messages.
const messageHandler = message => {
  console.log(`Received message ${message.id}:`);
  console.log(`\tData: ${message.data}`);
  console.log(`\tAttributes: ${JSON.stringify(message.attributes)}`);

  // Ack the message so it is not sent again.
  message.ack();
};

// Register the message handler and listen for messages.
subscription.on('message', messageHandler);

console.log(
  `Worker started. Listening for messages on "${subscriptionNameOrId}".`
);
console.log('If running locally, press Ctrl+C to quit.');

// The application will now listen for messages indefinitely until a shutdown
// signal is received.

4. Развертывание пула рабочих процессов

Создайте пул рабочих процессов Cloud Run, выполнив следующую команду:

gcloud beta run worker-pools deploy $WORKER_POOL_NAME --region=$REGION --source .

Эта команда создаст образ из исходного кода и развернёт задание. Выполнение займёт несколько минут.

5. Опубликуйте сообщение в PubSub

Создать тему PubSub

gcloud pubsub topics create $TOPIC

Создайте подписку PubSub pull

gcloud pubsub subscriptions create codelab-subscription --topic=$TOPIC

Выполните следующую команду, чтобы опубликовать сообщение в теме PubSub.

gcloud pubsub topics publish $TOPIC --message "Hello Worker Pools"

Проверьте журналы вашего рабочего пула.

gcloud logging read 'resource.type="cloud_run_worker_pool" AND resource.labels.worker_pool_name="'$WORKER_POOL_NAME'" AND resource.labels.location="'$REGION'"' --limit 10

В журналах вы должны увидеть Hello Worker Pools .

6. Удалить пул рабочих процессов

Поскольку рабочие пулы работают непрерывно, вам следует удалить рабочий пул.

gcloud beta run worker-pools delete $WORKER_POOL_NAME --region $REGION

7. Поздравляем!

Поздравляем с завершением лабораторной работы!

Мы рекомендуем ознакомиться с документацией Cloud Run .

Что мы рассмотрели

  • Как создать и развернуть пул рабочих процессов Cloud Run
  • Как извлечь сообщения из подписки Pub/Sub на основе Pull-based

8. Уборка

Чтобы удалить пул рабочих процессов Cloud Run, перейдите в облачную консоль Cloud Run по адресу https://console.cloud.google.com/run и удалите пул рабочих процессов codelab-workers-pubsub .

Чтобы удалить весь проект, перейдите в раздел «Управление ресурсами» , выберите проект, созданный на шаге 2, и нажмите «Удалить». После удаления проекта вам потребуется изменить проекты в Cloud SDK. Список всех доступных проектов можно просмотреть, выполнив gcloud projects list .