এই পৃষ্ঠাটি Cloud Translation API অনুবাদ করেছে।

ক্লাউড রান জিপিইউতে কীভাবে টর্চসার্ভ এবং স্থিতিশীল ডিফিউশন চালানো যায়

১. ভূমিকা

সংক্ষিপ্ত বিবরণ

ক্লাউড রান সম্প্রতি জিপিইউ (GPU) সাপোর্ট যুক্ত করেছে। এটি একটি ওয়েটলিস্টভুক্ত পাবলিক প্রিভিউ হিসেবে উপলব্ধ। আপনি যদি এই ফিচারটি ব্যবহার করে দেখতে আগ্রহী হন, তবে ওয়েটলিস্টে যোগ দেওয়ার জন্য এই ফর্মটি পূরণ করুন । ক্লাউড রান হলো গুগল ক্লাউডের একটি কন্টেইনার প্ল্যাটফর্ম, যা আপনাকে কোনো ক্লাস্টার পরিচালনা করার ঝামেলা ছাড়াই খুব সহজে একটি কন্টেইনারে আপনার কোড চালাতে সাহায্য করে।

বর্তমানে, আমরা ২৪ জিবি vRAM সহ Nvidia L4 GPU সরবরাহ করছি। প্রতিটি Cloud Run ইনস্ট্যান্সের জন্য একটি করে GPU রয়েছে এবং Cloud Run-এর অটো স্কেলিং এখনও প্রযোজ্য। এর মধ্যে রয়েছে ৫টি পর্যন্ত ইনস্ট্যান্স স্কেল আউট করা (কোটা বৃদ্ধির সুযোগ সহ), এবং কোনো অনুরোধ না থাকলে ইনস্ট্যান্সের সংখ্যা শূন্যে নামিয়ে আনা।

এই কোডল্যাবে, আপনি একটি TorchServe অ্যাপ তৈরি ও ডেপ্লয় করবেন যা একটি টেক্সট প্রম্পট থেকে ছবি তৈরি করতে stable diffusion XL ব্যবহার করে। তৈরি হওয়া ছবিটি কলারের কাছে একটি base64 এনকোডেড স্ট্রিং হিসেবে ফেরত পাঠানো হয়।

এই উদাহরণটি টর্চসার্ভ-এ হাগিংফেস ডিফিউজার ব্যবহার করে একটি স্থিতিশীল ডিফিউশন মডেল চালানোর উপর ভিত্তি করে তৈরি। এই কোডল্যাবটি আপনাকে দেখাবে কিভাবে এই উদাহরণটিকে ক্লাউড রানের সাথে কাজ করার জন্য পরিবর্তন করতে হয়।

আপনি যা শিখবেন

জিপিইউ ব্যবহার করে ক্লাউড রানে কীভাবে একটি স্থিতিশীল ডিফিউশন এক্সএল মডেল চালানো যায়

২. এপিআই সক্রিয় করুন এবং পরিবেশ ভেরিয়েবল সেট করুন

এই কোডল্যাবটি ব্যবহার শুরু করার আগে, আপনাকে কয়েকটি এপিআই (API) সক্রিয় করতে হবে। এই কোডল্যাবটির জন্য নিম্নলিখিত এপিআইগুলো ব্যবহার করা প্রয়োজন। আপনি নিম্নলিখিত কমান্ডটি চালিয়ে সেই এপিআইগুলো সক্রিয় করতে পারেন:

gcloud services enable run.googleapis.com \
    storage.googleapis.com \
    cloudbuild.googleapis.com

তারপর আপনি এনভায়রনমেন্ট ভেরিয়েবল সেট করতে পারবেন, যেগুলো এই কোডল্যাব জুড়ে ব্যবহৃত হবে।

PROJECT_ID=<YOUR_PROJECT_ID>
REPOSITORY=<YOUR_REPOSITORY_ID>

NETWORK_NAME=default
REGION=us-central1
IMAGE=us-central1-docker.pkg.dev/$PROJECT_ID/$REPOSITORY/gpu-torchserve

REPOSITORY এর জন্য আপনি যে মানটি সেট করেছেন, তা আর্টিফ্যাক্ট রেজিস্ট্রি রিপোজিটরির জন্য, যেখানে আপনার ইমেজ বিল্ড সংরক্ষণ করা হবে। আপনি একটি বিদ্যমান রিপোজিটরি ব্যবহার করতে পারেন অথবা একটি নতুন তৈরি করতে পারেন:

gcloud artifacts repositories create $REPOSITORY \
    --location=us-central1 \
    --repository-format=docker

৩. টর্চসার্ভ অ্যাপটি তৈরি করুন

প্রথমে, সোর্স কোডের জন্য একটি ডিরেক্টরি তৈরি করুন এবং সেই ডিরেক্টরিতে প্রবেশ করুন।

mkdir stable-diffusion-codelab && cd $_

একটি config.properties ফাইল তৈরি করুন। এটি হলো TorchServe-এর কনফিগারেশন ফাইল।

inference_address=http://0.0.0.0:8080
enable_envvars_config=true
min_workers=1
max_workers=1
default_workers_per_model=1
default_response_timeout=1000
load_models=all
max_response_size=655350000
# to enable authorization, see https://github.com/pytorch/serve/blob/master/docs/token_authorization_api.md#how-to-set-and-disable-token-authorization
disable_token_authorization=true

উল্লেখ্য যে, এই উদাহরণে ক্লাউড রান-এ কাজ করার জন্য http://0.0.0.0 লিসেনিং অ্যাড্রেসটি ব্যবহার করা হয়েছে। ক্লাউড রান-এর ডিফল্ট পোর্ট হলো পোর্ট ৮০৮০।

একটি requirements.txt ফাইল তৈরি করুন।

python-dotenv
accelerate
transformers
diffusers
numpy
google-cloud-storage
nvgpu

stable_diffusion_handler.py নামে একটি ফাইল তৈরি করুন।

from abc import ABC
import base64
import datetime
import io
import logging
import os

from diffusers import StableDiffusionXLImg2ImgPipeline
from diffusers import StableDiffusionXLPipeline
from google.cloud import storage
import numpy as np
from PIL import Image
import torch
from ts.torch_handler.base_handler import BaseHandler


logger = logging.getLogger(__name__)


def image_to_base64(image: Image.Image) -> str:
  """Convert a PIL image to a base64 string."""
  buffer = io.BytesIO()
  image.save(buffer, format="JPEG")
  image_str = base64.b64encode(buffer.getvalue()).decode("utf-8")
  return image_str


class DiffusersHandler(BaseHandler, ABC):
  """Diffusers handler class for text to image generation."""

  def __init__(self):
    self.initialized = False

  def initialize(self, ctx):
    """In this initialize function, the Stable Diffusion model is loaded and

       initialized here.
    Args:
        ctx (context): It is a JSON Object containing information pertaining to
          the model artifacts parameters.
    """
    logger.info("Initialize DiffusersHandler")
    self.manifest = ctx.manifest
    properties = ctx.system_properties
    model_dir = properties.get("model_dir")
    model_name = os.environ["MODEL_NAME"]
    model_refiner = os.environ["MODEL_REFINER"]

    self.bucket = None

    logger.info(
        "GPU device count: %s",
        torch.cuda.device_count(),
    )
    logger.info(
        "select the GPU device, cuda is available: %s",
        torch.cuda.is_available(),
    )
    self.device = torch.device(
        "cuda:" + str(properties.get("gpu_id"))
        if torch.cuda.is_available() and properties.get("gpu_id") is not None
        else "cpu"
    )
    logger.info("Device used: %s", self.device)

    # open the pipeline to the inferenece model 
    # this is generating the image
    logger.info("Downloading model %s", model_name)
    self.pipeline = StableDiffusionXLPipeline.from_pretrained(
        model_name,
        variant="fp16",
        torch_dtype=torch.float16,
        use_safetensors=True,
    ).to(self.device)
    logger.info("done downloading model %s", model_name)

    # open the pipeline to the refiner
    # refiner is used to remove artifacts from the image
    logger.info("Downloading refiner %s", model_refiner)
    self.refiner = StableDiffusionXLImg2ImgPipeline.from_pretrained(
        model_refiner,
        variant="fp16",
        torch_dtype=torch.float16,
        use_safetensors=True,
    ).to(self.device)
    logger.info("done downloading refiner %s", model_refiner)

    self.n_steps = 40
    self.high_noise_frac = 0.8
    self.initialized = True
    # Commonly used basic negative prompts.
    logger.info("using negative_prompt")
    self.negative_prompt = ("worst quality, normal quality, low quality, low res, blurry")

  # this handles the user request
  def preprocess(self, requests):
    """Basic text preprocessing, of the user's prompt.

    Args:
        requests (str): The Input data in the form of text is passed on to the
          preprocess function.

    Returns:
        list : The preprocess function returns a list of prompts.
    """
    logger.info("Process request started")
    inputs = []
    for _, data in enumerate(requests):
      input_text = data.get("data")
      if input_text is None:
        input_text = data.get("body")
      if isinstance(input_text, (bytes, bytearray)):
        input_text = input_text.decode("utf-8")
      logger.info("Received text: '%s'", input_text)
      inputs.append(input_text)
    return inputs

  def inference(self, inputs):
    """Generates the image relevant to the received text.

    Args:
        input_batch (list): List of Text from the pre-process function is passed
          here

    Returns:
        list : It returns a list of the generate images for the input text
    """
    logger.info("Inference request started")
    # Handling inference for sequence_classification.
    image = self.pipeline(
        prompt=inputs,
        negative_prompt=self.negative_prompt,
        num_inference_steps=self.n_steps,
        denoising_end=self.high_noise_frac,
        output_type="latent",
    ).images
    logger.info("Done model")

    image = self.refiner(
        prompt=inputs,
        negative_prompt=self.negative_prompt,
        num_inference_steps=self.n_steps,
        denoising_start=self.high_noise_frac,
        image=image,
    ).images
    logger.info("Done refiner")

    return image

  def postprocess(self, inference_output):
    """Post Process Function converts the generated image into Torchserve readable format.

    Args:
        inference_output (list): It contains the generated image of the input
          text.

    Returns:
        (list): Returns a list of the images.
    """
    logger.info("Post process request started")
    images = []
    response_size = 0
    for image in inference_output:
      # Save image to GCS
      if self.bucket:
        image.save("temp.jpg")

        # Create a blob object
        blob = self.bucket.blob(
            datetime.datetime.now().strftime("%Y%m%d_%H%M%S") + ".jpg"
        )

        # Upload the file
        blob.upload_from_filename("temp.jpg")

      # to see the image, encode to base64
      encoded = image_to_base64(image)
      response_size += len(encoded)
      images.append(encoded)

    logger.info("Images %d, response size: %d", len(images), response_size)
    return images

start.sh নামে একটি ফাইল তৈরি করুন। এই ফাইলটি কন্টেইনারে TorchServe চালু করার জন্য এন্ট্রি পয়েন্ট হিসেবে ব্যবহৃত হয়।

#!/bin/bash

echo "starting the server"
# start the server. By default torchserve runs in backaround, and start.sh will immediately terminate when done
# so use --foreground to keep torchserve running in foreground while start.sh is running in a container  
torchserve --start --ts-config config.properties --models "stable_diffusion=${MAR_FILE_NAME}.mar" --model-store ${MAR_STORE_PATH} --foreground

এরপর এটিকে একটি এক্সিকিউটেবল ফাইলে পরিণত করতে নিম্নলিখিত কমান্ডটি চালান।

chmod 755 start.sh

একটি dockerfile তৈরি করুন।

# pick a version of torchserve to avoid any future breaking changes
# docker pull pytorch/torchserve:0.11.1-cpp-dev-gpu
FROM pytorch/torchserve:0.11.1-cpp-dev-gpu AS base

USER root

WORKDIR /home/model-server

COPY requirements.txt ./
RUN pip install --upgrade -r ./requirements.txt

# Stage 1 build the serving container.
FROM base AS serve-gcs

ENV MODEL_NAME='stabilityai/stable-diffusion-xl-base-1.0'
ENV MODEL_REFINER='stabilityai/stable-diffusion-xl-refiner-1.0'

ENV MAR_STORE_PATH='/home/model-server/model-store'
ENV MAR_FILE_NAME='model'
RUN mkdir -p $MAR_STORE_PATH

COPY config.properties ./
COPY stable_diffusion_handler.py ./
COPY start.sh ./

# creates the mar file used by torchserve
RUN torch-model-archiver --force --model-name ${MAR_FILE_NAME} --version 1.0 --handler stable_diffusion_handler.py -r requirements.txt --export-path ${MAR_STORE_PATH}

# entrypoint
CMD ["./start.sh"]

৪. ক্লাউড NAT সেটআপ করুন

ক্লাউড ন্যাট আপনাকে ইন্টারনেট অ্যাক্সেস করতে এবং হাগিংফেস থেকে মডেল ডাউনলোড করতে উচ্চতর ব্যান্ডউইথ পেতে সাহায্য করে, যা আপনার ডেপ্লয়মেন্টের সময়কে উল্লেখযোগ্যভাবে দ্রুততর করবে।

ক্লাউড NAT ব্যবহার করতে, একটি ক্লাউড NAT ইনস্ট্যান্স সক্রিয় করার জন্য নিম্নলিখিত কমান্ডটি চালান:

gcloud compute routers create nat-router --network $NETWORK_NAME --region us-central1
gcloud compute routers nats create vm-nat --router=nat-router --region=us-central1 --auto-allocate-nat-external-ips --nat-all-subnet-ip-ranges

৫. ক্লাউড রান পরিষেবাটি তৈরি ও স্থাপন করুন

আপনার কোড ক্লাউড বিল্ড-এ জমা দিন।

gcloud builds submit --tag $IMAGE

এরপর, ক্লাউড রান-এ ডেপ্লয় করুন।

gcloud beta run deploy gpu-torchserve \
 --image=$IMAGE \
 --cpu=8 --memory=32Gi \
 --gpu=1 --no-cpu-throttling --gpu-type=nvidia-l4 \
 --allow-unauthenticated \
 --region us-central1 \
 --project $PROJECT_ID \
 --execution-environment=gen2 \
 --max-instances 1 \
 --network $NETWORK_NAME \
 --vpc-egress all-traffic

৬. পরিষেবাটি পরীক্ষা করুন

আপনি নিম্নলিখিত কমান্ডগুলো চালিয়ে পরিষেবাটি পরীক্ষা করতে পারেন:

PROMPT_TEXT="a cat sitting in a magnolia tree"

SERVICE_URL=$(gcloud run services describe gpu-torchserve --region $REGION --format 'value(status.url)')

time curl $SERVICE_URL/predictions/stable_diffusion -d "data=$PROMPT_TEXT" | base64 --decode > image.jpg

যদি ক্লাউড রান-এ অথেনটিকেশন আবশ্যক করা থাকে, তাহলে curl কমান্ডে অথরাইজেশন হেডার যোগ করতে ভুলবেন না।

আপনার বর্তমান ডিরেক্টরিতে image.jpg ফাইলটি দেখতে পাবেন। গাছে বসে থাকা একটি বিড়ালের ছবি দেখতে আপনি ক্লাউড শেল এডিটরে ছবিটি খুলতে পারেন।

৭. অভিনন্দন!

কোডল্যাবটি সম্পন্ন করার জন্য অভিনন্দন!

আমরা ক্লাউড রান জিপিইউ (Cloud Run GPUs) সম্পর্কিত ডকুমেন্টেশন পর্যালোচনা করার পরামর্শ দিই।

আমরা যা আলোচনা করেছি

জিপিইউ ব্যবহার করে ক্লাউড রানে কীভাবে একটি স্থিতিশীল ডিফিউশন এক্সএল মডেল চালানো যায়

৮. পরিষ্কার করুন

অনিচ্ছাকৃত চার্জ এড়াতে (উদাহরণস্বরূপ, যদি এই ক্লাউড রান জবটি ফ্রি টিয়ারে আপনার মাসিক ক্লাউড রান ইনভোকেশন বরাদ্দের চেয়ে বেশিবার অনিচ্ছাকৃতভাবে চালু হয়), আপনি হয় ক্লাউড রান জবটি অথবা ধাপ ২-এ তৈরি করা প্রজেক্টটি ডিলিট করে দিতে পারেন।

ক্লাউড রান জবটি ডিলিট করতে, https://console.cloud.google.com/run/ ঠিকানায় ক্লাউড রান ক্লাউড কনসোলে যান এবং gpu-torchserve সার্ভিসটি ডিলিট করে দিন।

আপনাকে আপনার ক্লাউড ন্যাট কনফিগারেশনটিও মুছে ফেলতে হবে।

আপনি যদি পুরো প্রজেক্টটি মুছে ফেলতে চান, তাহলে আপনি https://console.cloud.google.com/cloud-resource-manager -এ গিয়ে, ধাপ ২-এ তৈরি করা প্রজেক্টটি নির্বাচন করে 'ডিলিট' (Delete) বিকল্পটি বেছে নিতে পারেন। প্রজেক্টটি মুছে ফেললে, আপনাকে আপনার ক্লাউড এসডিকে (Cloud SDK)-তে প্রজেক্ট পরিবর্তন করতে হবে। আপনি gcloud projects list চালিয়ে সমস্ত উপলব্ধ প্রজেক্টের তালিকা দেখতে পারেন।