ক্লাউড স্টোরেজ, ফায়ারস্টোর এবং ক্লাউড রান ব্যবহার করে কীভাবে ছবি আপলোড এবং পরিবেশন করবেন

১. ভূমিকা

সংক্ষিপ্ত বিবরণ

এই কোডল্যাবে, আপনি ক্লাউড স্টোরেজ, ফায়ারস্টোর এবং ক্লাউড রান ব্যবহার করে কীভাবে ছবি আপলোড ও পরিবেশন করতে হয় তা শিখবেন। এছাড়াও, জেমিনিতে কল করার জন্য অথেনটিকেশনের উদ্দেশ্যে কীভাবে গুগলের ক্লায়েন্ট লাইব্রেরি ব্যবহার করতে হয়, তাও শিখবেন।

আপনি যা শিখবেন

  • Cloud Run-এ FastAPI অ্যাপ কীভাবে ডেপ্লয় করবেন
  • প্রমাণীকরণের জন্য কীভাবে গুগলের ক্লায়েন্ট লাইব্রেরি ব্যবহার করবেন
  • ক্লাউড রান পরিষেবা ব্যবহার করে ক্লাউড স্টোরেজে কীভাবে একটি ফাইল আপলোড করবেন
  • ফায়ারস্টোরে কীভাবে ডেটা পড়তে এবং লিখতে হয়
  • ক্লাউড রান পরিষেবাতে ক্লাউড স্টোরেজ থেকে কীভাবে ছবি পুনরুদ্ধার এবং প্রদর্শন করবেন

২. সেটআপ এবং প্রয়োজনীয়তা

এই কোডল্যাব জুড়ে ব্যবহৃত হবে এমন এনভায়রনমেন্ট ভেরিয়েবলগুলো সেট করুন।

PROJECT_ID=dogfood-gcf-saraford
REGION=europe-west4
GCS_BUCKET_NAME=dogfood-gcf-saraford-codelab-wietse-2

SERVICE_NAME=fastapi-storage-firestore
SERVICE_ACCOUNT=fastapi-storage-firestore-sa
SERVICE_ACCOUNT_ADDRESS=$SERVICE_ACCOUNT@$PROJECT_ID.iam.gserviceaccount.com

এপিআই সক্ষম করুন

gcloud services enable run.googleapis.com \
                       storage.googleapis.com \
                       firestore.googleapis.com \
                       cloudbuild.googleapis.com \
                       artifactregistry.googleapis.com

ছবিগুলো সংরক্ষণের জন্য একটি ক্লাউড স্টোরেজ বাকেট তৈরি করুন।

gsutil mb -p dogfood-gcf-saraford -l europe-west4 gs://$GCS_BUCKET_NAME

ওয়েবসাইটে ছবি আপলোড ও প্রদর্শন করার জন্য ব্যবহৃত বাকেটটিতে সর্বজনীন প্রবেশাধিকার দিন:

gsutil iam ch allUsers:objectViewer gs://$GCS_BUCKET_NAME

এই কমান্ডটি চালিয়ে একটি সার্ভিস অ্যাকাউন্ট তৈরি করুন:

gcloud iam service-accounts create $SERVICE_ACCOUNT \
    --display-name="SA for CR $SERVICE_ACCOUNT"

এবং SA-কে Firestore ও GCS Bucket-এ অ্যাক্সেস প্রদান করুন।

gcloud projects add-iam-policy-binding $PROJECT_ID \
    --member="serviceAccount:$SERVICE_ACCOUNT_ADDRESS" \
    --role="roles/datastore.user"

gsutil iam ch serviceAccount:$SERVICE_ACCOUNT_ADDRESS:roles/storage.objectAdmin gs://$GCS_BUCKET_NAME

৩. ফায়ারস্টোর ডাটাবেস তৈরি করুন

ফায়ারস্টোর ডাটাবেস তৈরি করতে নিম্নলিখিত কমান্ডটি চালান।

gcloud firestore databases create --location=nam5

৪. অ্যাপটি তৈরি করুন

আপনার কোডের জন্য একটি ডিরেক্টরি তৈরি করুন।

mkdir codelab-cr-fastapi-firestore-gcs
cd codelab-cr-fastapi-firestore-gcs

প্রথমে, একটি টেমপ্লেট ডিরেক্টরি তৈরি করে এইচটিএমএল টেমপ্লেটগুলো তৈরি করতে হবে।

mkdir templates
cd templates

নিম্নলিখিত বিষয়বস্তু সহ index.html নামে একটি নতুন ফাইল তৈরি করুন:

<!DOCTYPE html>
<html>
<head>
    <title>Cloud Run Image Upload Demo</title>
    <style>
        body { font-family: sans-serif; padding: 20px; }
        .upload-form { margin-bottom: 20px; padding: 15px; border: 1px solid #ccc; border-radius: 5px; background-color: #f9f9f9; }
        .image-list { margin-top: 30px; }
        .image-item { border-bottom: 1px solid #eee; padding: 10px 0; }
        .image-item img { max-width: 100px; max-height: 100px; vertical-align: middle; margin-right: 10px;}
        .error { color: red; font-weight: bold; margin-top: 10px;}
    </style>
</head>
<body>

    <h1>Upload an Image</h1>
    <p>Files will be uploaded to GCS bucket: <strong>{{ bucket_name }}</strong> and metadata stored in Firestore.</p>

    <div class="upload-form">
        <form action="/upload" method="post" enctype="multipart/form-data">
            <input type="file" name="file" accept="image/*" required>
            <button type="submit">Upload Image</button>
        </form>
        {% if error_message %}
            <p class="error">{{ error_message }}</p>
        {% endif %}
    </div>

    <div class="image-list">
        <h2>Recently Uploaded Images:</h2>
        {% if images %}
            {% for image in images %}
            <div class="image-item">
                <a href="{{ image.gcs_url }}" target="_blank">
                   <img src="{{ image.gcs_url }}" alt="{{ image.filename }}" title="Click to view full size">
                </a>
                <span>{{ image.filename }}</span>
                <small>(Uploaded: {{ image.uploaded_at.strftime('%Y-%m-%d %H:%M:%S') if image.uploaded_at else 'N/A' }})</small><br/>
                <small><a href="{{ image.gcs_url }}" target="_blank">{{ image.gcs_url }}</a></small>
            </div>
            {% endfor %}
        {% else %}
            <p>No images uploaded yet or unable to retrieve list.</p>
        {% endif %}
    </div>

</body>
</html>

এখন আপনার পাইথন কোড এবং অন্যান্য ফাইলগুলো রুট ডিরেক্টরিতে তৈরি করুন।

cd ..

নিম্নলিখিত বিষয়বস্তু সহ একটি .gcloudignore ফাইল তৈরি করুন:

__pycache__

main.py নামে একটি ফাইল তৈরি করুন এবং তাতে নিম্নলিখিত বিষয়বস্তু যোগ করুন:

import os
import datetime
from fastapi import FastAPI, File, UploadFile, Request, Form
from fastapi.responses import HTMLResponse, RedirectResponse
from fastapi.templating import Jinja2Templates
from google.cloud import storage, firestore

# --- Configuration ---
# Get bucket name and firestore collection from Cloud Run env vars
GCS_BUCKET_NAME = os.environ.get("GCS_BUCKET_NAME", "YOUR_BUCKET_NAME_DEFAULT")
FIRESTORE_COLLECTION = os.environ.get("FIRESTORE_COLLECTION", "YOUR_FIRESTORE_DEFAULT")

# --- Initialize Google Client Libraries ---
# These client libraries will use the Application Default Credentials
# for your service account within the Cloud Run environment 
storage_client = storage.Client()
firestore_client = firestore.Client()

# --- FastAPI App ---
app = FastAPI()
templates = Jinja2Templates(directory="templates")

# --- Routes ---
@app.get("/", response_class=HTMLResponse)
async def read_root(request: Request):
    """Serves the main upload form."""
    
    # Query Firestore for existing images to display 
    images = []
    try:
        docs = firestore_client.collection(FIRESTORE_COLLECTION).order_by(
            "uploaded_at", direction=firestore.Query.DESCENDING
        ).limit(10).stream() # Get latest 10 images
        for doc in docs:
            images.append(doc.to_dict())
    except Exception as e:
        print(f"Warning: Could not fetch images from Firestore: {e}")
        # Continue without displaying images if Firestore query fails

    return templates.TemplateResponse("index.html", {
        "request": request,
        "bucket_name": GCS_BUCKET_NAME,
        "images": images # Pass images to the template
    })

@app.post("/upload")
async def handle_upload(request: Request, file: UploadFile = File(...)):
    """Handles file upload, saves to GCS, and records in Firestore."""
    if not file:
        return {"message": "No upload file sent"}
    elif not GCS_BUCKET_NAME or GCS_BUCKET_NAME == "YOUR_BUCKET_NAME_DEFAULT":
         return {"message": "GCS Bucket Name not configured."}, 500 # Internal Server Error

    try:
        # 1. Upload to GCS
        # note: to keep the demo code short, there are no file verifications
        # for an actual real-world production app, you will want to add checks
        gcs_url = upload_to_gcs(file, GCS_BUCKET_NAME)

        # 2. Save metadata to Firestore
        save_metadata_to_firestore(file.filename, gcs_url, FIRESTORE_COLLECTION)

        # Redirect back to the main page after successful upload
        return RedirectResponse(url="/", status_code=303) # Redirect using See Other

    except Exception as e:
        print(f"Upload failed: {e}")

        return templates.TemplateResponse("index.html", {
            "request": request,
            "bucket_name": GCS_BUCKET_NAME,
            "error_message": f"Upload failed: {e}",
            "images": [] # Pass empty list on error or re-query
        }, status_code=500)

# --- Helper Functions ---
def upload_to_gcs(uploadedFile: UploadFile, bucket_name: str) -> str:
    """Uploads a file to Google Cloud Storage and returns the public URL."""
    try:
        bucket = storage_client.bucket(bucket_name)

        # Create a unique blob name (e.g., timestamp + original filename)
        timestamp = datetime.datetime.now(datetime.timezone.utc).strftime("%Y%m%d%H%M%S")
        blob_name = f"{timestamp}_{uploadedFile.filename}"
        blob = bucket.blob(blob_name)

        # Upload the file
        # Reset file pointer just in case
        uploadedFile.file.seek(0)
        blob.upload_from_file(uploadedFile.file, content_type=uploadedFile.content_type)

        print(f"File {uploadedFile.filename} uploaded to gs://{bucket_name}/{blob_name}")
        return blob.public_url # Return the public URL

    except Exception as e:
        print(f"Error uploading to GCS: {e}")
        raise  # Re-raise the exception for FastAPI to handle

def save_metadata_to_firestore(filename: str, gcs_url: str, collection_name: str):
    """Saves image metadata to Firestore."""
    try:
        doc_ref = firestore_client.collection(collection_name).document()
        doc_ref.set({
            'filename': filename,
            'gcs_url': gcs_url,
            'uploaded_at': firestore.SERVER_TIMESTAMP # Use server timestamp
        })
        print(f"Metadata saved to Firestore collection {collection_name}")
    except Exception as e:
        print(f"Error saving metadata to Firestore: {e}")
        # Consider raising the exception or handling it appropriately
        raise # Re-raise the exception

নিম্নলিখিত বিষয়বস্তু সহ একটি Dockerfile তৈরি করুন:

# Build stage
FROM python:3.12-slim AS builder

WORKDIR /app

# Install poetry
RUN pip install poetry
RUN poetry self add poetry-plugin-export

# Copy poetry files
COPY pyproject.toml poetry.lock* ./

# Copy application code
COPY . .

# Export dependencies to requirements.txt
RUN poetry export -f requirements.txt --output requirements.txt 

# Final stage
FROM python:3.12-slim

WORKDIR /app

# Copy files from builder
COPY --from=builder /app/ .

# Install dependencies
RUN pip install --no-cache-dir -r requirements.txt

# Compile bytecode to improve startup latency
# -q: Quiet mode 
# -b: Write legacy bytecode files (.pyc) alongside source
# -f: Force rebuild even if timestamps are up-to-date
RUN python -m compileall -q -b -f .

# Expose port
EXPOSE 8080

# Run the application
CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8080"]

এবং নিম্নলিখিত বিষয়বস্তু সহ একটি pyproject.toml তৈরি করা হয়েছে।

[tool.poetry]
name = "cloud-run-fastapi-demo"
version = "0.1.0"
description = "Demo FastAPI app for Cloud Run showing GCS upload and Firestore integration."
authors = ["Your Name <you@example.com>"]
readme = "README.md"

[tool.poetry.dependencies]
python = "^3.12"
fastapi = "^0.110.0"
uvicorn = {extras = ["standard"], version = "^0.29.0"} # Includes python-multipart
google-cloud-storage = "^2.16.0"
google-cloud-firestore = "^2.16.0"
jinja2 = "^3.1.3"
python-multipart = "^0.0.20"

[build-system]
requires = ["poetry-core"]
build-backend = "poetry.core.masonry.api"

৫. ক্লাউড রান-এ ডেপ্লয় করুন

নিচে ক্লাউড রান-এ ডিপ্লয় করার কমান্ড দেওয়া হলো। আপনার কোড জিপ করে ক্লাউড বিল্ড-এ পাঠানো হয়, যা ডকারফাইল ব্যবহার করে ইমেজটি তৈরি করে।

যেহেতু এটি ক্লাউড রান-এ একটি সোর্স-ভিত্তিক ডিপ্লয়, তাই সার্ভিসটির ক্লাউড কনসোলে আপনি একটি সোর্স ট্যাব দেখতে পাবেন, যেখানে আপনার কোড থাকবে।

gcloud run deploy $SERVICE_NAME \
 --source . \
 --allow-unauthenticated \
 --service-account=$SERVICE_ACCOUNT_ADDRESS \
 --set-env-vars=GCS_BUCKET_NAME=$GCS_BUCKET_NAME \
 --set-env-vars=FIRESTORE_COLLECTION=$FIRESTORE_COLLECTION

৬. আপনার পরিষেবা পরীক্ষা করুন

আপনার ওয়েব ব্রাউজারে সার্ভিস ইউআরএলটি খুলুন এবং একটি ছবি আপলোড করুন। আপনি এটি তালিকায় প্রদর্শিত দেখতে পাবেন।

৭. পাবলিক ক্লাউড স্টোরেজ বাকেটের অনুমতি পরিবর্তন করুন

পূর্বে যেমন উল্লেখ করা হয়েছে, এই কোডল্যাবটি একটি পাবলিক GCS বাকেট ব্যবহার করে। নিম্নলিখিত কমান্ডটি চালিয়ে বাকেটটি ডিলিট করে দেওয়া অথবা বাকেটটির allUsers অ্যাক্সেস সরিয়ে দেওয়ার পরামর্শ দেওয়া হচ্ছে:

gsutil iam ch -d allUsers:objectViewer gs://$GCS_BUCKET_NAME

এই কমান্ডটি চালিয়ে আপনি নিশ্চিত করতে পারেন যে allUsers-এর অ্যাক্সেস সরিয়ে নেওয়া হয়েছে:

gsutil iam get gs://$GCS_BUCKET_NAME

৮. অভিনন্দন

কোডল্যাবটি সম্পন্ন করার জন্য অভিনন্দন!

আমরা যা আলোচনা করেছি

  • Cloud Run-এ FastAPI অ্যাপ কীভাবে ডেপ্লয় করবেন
  • প্রমাণীকরণের জন্য কীভাবে গুগলের ক্লায়েন্ট লাইব্রেরি ব্যবহার করবেন
  • ক্লাউড রান পরিষেবা ব্যবহার করে ক্লাউড স্টোরেজে কীভাবে একটি ফাইল আপলোড করবেন
  • ফায়ারস্টোরে কীভাবে ডেটা পড়তে এবং লিখতে হয়
  • ক্লাউড রান পরিষেবাতে ক্লাউড স্টোরেজ থেকে কীভাবে ছবি পুনরুদ্ধার এবং প্রদর্শন করবেন

৯. পরিষ্কার করুন

Cloud Run পরিষেবাটি মুছে ফেলার জন্য, https://console.cloud.google.com/run-এ অবস্থিত Cloud Run ক্লাউড কনসোলে যান এবং পরিষেবাটি ডিলিট করে দিন।

ক্লাউড স্টোরেজ বাকেটটি ডিলিট করতে, আপনি নিম্নলিখিত কমান্ডগুলো চালাতে পারেন:

echo "Deleting objects in gs://$GCS_BUCKET_NAME..."
gsutil rm -r gs://$GCS_BUCKET_NAME/*

echo "Deleting bucket gs://$GCS_BUCKET_NAME..."
gsutil rb gs://$GCS_BUCKET_NAME

আপনি যদি পুরো প্রজেক্টটি মুছে ফেলতে চান, তাহলে আপনি https://console.cloud.google.com/cloud-resource-manager -এ গিয়ে, ধাপ ২-এ তৈরি করা প্রজেক্টটি নির্বাচন করে 'ডিলিট' (Delete) বিকল্পটি বেছে নিতে পারেন। প্রজেক্টটি মুছে ফেললে, আপনাকে আপনার ক্লাউড এসডিকে (Cloud SDK)-তে প্রজেক্ট পরিবর্তন করতে হবে। আপনি gcloud projects list চালিয়ে সমস্ত উপলব্ধ প্রজেক্টের তালিকা দেখতে পারেন।