ক্লাউড রানে একটি মিথুন-চালিত চ্যাট অ্যাপ কীভাবে স্থাপন করবেন

1. ভূমিকা

সংক্ষিপ্ত বিবরণ

এই কোডল্যাবে, আপনি দেখতে পাবেন কিভাবে Vertex AI Gemini API এবং Vertex AI ক্লায়েন্ট লাইব্রেরি ব্যবহার করে নোডে লেখা একটি বেসিক চ্যাট বট তৈরি করা যায়। এই অ্যাপটি Google Cloud Firestore দ্বারা সমর্থিত একটি এক্সপ্রেস সেশন স্টোর ব্যবহার করে।

তুমি কি শিখবে

  • ক্লাউড রান পরিষেবা তৈরি করতে htmx, tailwindcss এবং express.js কীভাবে ব্যবহার করবেন
  • গুগল এপিআই-তে প্রমাণীকরণের জন্য ভার্টেক্স এআই ক্লায়েন্ট লাইব্রেরিগুলি কীভাবে ব্যবহার করবেন
  • জেমিনি মডেলের সাথে যোগাযোগ করার জন্য কীভাবে একটি চ্যাটবট তৈরি করবেন
  • ডকার ফাইল ছাড়াই ক্লাউড রান সার্ভিসে কীভাবে স্থাপন করবেন
  • গুগল ক্লাউড ফায়ারস্টোর দ্বারা সমর্থিত একটি এক্সপ্রেস সেশন স্টোর কীভাবে ব্যবহার করবেন

2. সেটআপ এবং প্রয়োজনীয়তা

পূর্বশর্ত

ক্লাউড শেল সক্রিয় করুন

  1. ক্লাউড কনসোল থেকে, ক্লাউড শেল সক্রিয় করুন ক্লিক করুন d1264ca30785e435.png সম্পর্কে .

cb81e7c8e34bc8d.png সম্পর্কে

যদি আপনি প্রথমবারের মতো ক্লাউড শেল শুরু করেন, তাহলে আপনাকে একটি মধ্যবর্তী স্ক্রিন দেখানো হবে যা এটি কী তা বর্ণনা করবে। যদি আপনার কাছে একটি মধ্যবর্তী স্ক্রিন থাকে, তাহলে Continue এ ক্লিক করুন।

d95252b003979716.png সম্পর্কে

ক্লাউড শেলের সাথে সংযোগ স্থাপন এবং সংযোগ স্থাপন করতে মাত্র কয়েক মুহূর্ত সময় লাগবে।

7833d5e1c5d18f54.png সম্পর্কে

এই ভার্চুয়াল মেশিনটিতে প্রয়োজনীয় সকল ডেভেলপমেন্ট টুল রয়েছে। এটি একটি স্থায়ী ৫ জিবি হোম ডিরেক্টরি অফার করে এবং গুগল ক্লাউডে চলে, যা নেটওয়ার্ক কর্মক্ষমতা এবং প্রমাণীকরণকে ব্যাপকভাবে উন্নত করে। এই কোডল্যাবে আপনার বেশিরভাগ কাজ, যদি সব না হয়, একটি ব্রাউজার দিয়ে করা যেতে পারে।

একবার ক্লাউড শেলের সাথে সংযুক্ত হয়ে গেলে, আপনি দেখতে পাবেন যে আপনি প্রমাণিত এবং প্রকল্পটি আপনার প্রকল্প আইডিতে সেট করা আছে।

  1. আপনি প্রমাণিত কিনা তা নিশ্চিত করতে ক্লাউড শেলে নিম্নলিখিত কমান্ডটি চালান: 
gcloud auth list

কমান্ড আউটপুট

 Credentialed Accounts
ACTIVE  ACCOUNT
*       <my_account>@<my_domain.com>

To set the active account, run:
    $ gcloud config set account `ACCOUNT`
  1. gcloud কমান্ড আপনার প্রকল্প সম্পর্কে জানে কিনা তা নিশ্চিত করতে ক্লাউড শেলে নিম্নলিখিত কমান্ডটি চালান: 
gcloud config list project

কমান্ড আউটপুট

[core]
project = <PROJECT_ID>

যদি তা না হয়, তাহলে আপনি এই কমান্ড দিয়ে এটি সেট করতে পারেন:

gcloud config set project <PROJECT_ID>

কমান্ড আউটপুট

Updated property [core/project].

৩. API গুলি সক্ষম করুন এবং পরিবেশ ভেরিয়েবল সেট করুন

API গুলি সক্ষম করুন

এই কোডল্যাব ব্যবহার শুরু করার আগে, আপনাকে বেশ কয়েকটি API সক্রিয় করতে হবে। এই কোডল্যাবটির জন্য নিম্নলিখিত API ব্যবহার করা প্রয়োজন। আপনি নিম্নলিখিত কমান্ডটি চালিয়ে এই APIগুলি সক্রিয় করতে পারেন:

gcloud services enable run.googleapis.com \
    cloudbuild.googleapis.com \
    aiplatform.googleapis.com \
    secretmanager.googleapis.com

পরিবেশ ভেরিয়েবল সেটআপ করুন

আপনি এই কোডল্যাব জুড়ে ব্যবহৃত পরিবেশগত ভেরিয়েবল সেট করতে পারেন।

PROJECT_ID=<YOUR_PROJECT_ID>
REGION=<YOUR_REGION, e.g. us-central1>
SERVICE=chat-with-gemini
SERVICE_ACCOUNT="vertex-ai-caller"
SERVICE_ACCOUNT_ADDRESS=$SERVICE_ACCOUNT@$PROJECT_ID.iam.gserviceaccount.com
SECRET_ID="SESSION_SECRET"

৪. একটি ফায়ারবেস প্রকল্প তৈরি এবং কনফিগার করুন

  1. Firebase কনসোলে , Add project এ ক্লিক করুন।
  2. আপনার বিদ্যমান Google ক্লাউড প্রকল্পগুলির একটিতে Firebase যোগ করতে <YOUR_PROJECT_ID> লিখুন
  3. অনুরোধ করা হলে, Firebase শর্তাবলী পর্যালোচনা করুন এবং গ্রহণ করুন।
  4. চালিয়ে যান ক্লিক করুন।
  5. Firebase বিলিং প্ল্যান নিশ্চিত করতে Confirm Plan-এ ক্লিক করুন।
  6. এই কোডল্যাবের জন্য গুগল অ্যানালিটিক্স সক্ষম করা ঐচ্ছিক।
  7. "ফায়ারবেস যোগ করুন" এ ক্লিক করুন।
  8. প্রকল্পটি তৈরি হয়ে গেলে, চালিয়ে যান এ ক্লিক করুন।
  9. বিল্ড মেনু থেকে, ফায়ারস্টোর ডাটাবেস ক্লিক করুন।
  10. ডাটাবেস তৈরি করুন ক্লিক করুন।
  11. অবস্থান ড্রপ-ডাউন থেকে আপনার অঞ্চলটি নির্বাচন করুন, তারপর পরবর্তী ক্লিক করুন।
  12. প্রোডাকশন মোডে ডিফল্ট Start ব্যবহার করুন, তারপর Create এ ক্লিক করুন।

৫. একটি পরিষেবা অ্যাকাউন্ট তৈরি করুন

এই পরিষেবা অ্যাকাউন্টটি ক্লাউড রান দ্বারা Vertex AI Gemini API কল করার জন্য ব্যবহার করা হবে। এই পরিষেবা অ্যাকাউন্টটিতে Firestore-এ পড়ার এবং লেখার এবং Secret Manager থেকে গোপন তথ্য পড়ার অনুমতি থাকবে।

প্রথমে, এই কমান্ডটি চালিয়ে পরিষেবা অ্যাকাউন্ট তৈরি করুন:

gcloud iam service-accounts create $SERVICE_ACCOUNT \
  --display-name="Cloud Run to access Vertex AI APIs"

দ্বিতীয়ত, পরিষেবা অ্যাকাউন্টে Vertex AI ব্যবহারকারীর ভূমিকা প্রদান করুন। 

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member serviceAccount:$SERVICE_ACCOUNT_ADDRESS \
  --role=roles/aiplatform.user

এখন, সিক্রেট ম্যানেজারে একটি সিক্রেট তৈরি করুন। ক্লাউড রান পরিষেবাটি এই সিক্রেটটিকে একটি পরিবেশ ভেরিয়েবল হিসাবে অ্যাক্সেস করবে, যা শুরু হওয়ার সময় সমাধান করা হয়। আপনি সিক্রেটস এবং ক্লাউড রান সম্পর্কে আরও জানতে পারেন। 

gcloud secrets create $SECRET_ID --replication-policy="automatic"
printf "keyboard-cat" | gcloud secrets versions add $SECRET_ID --data-file=-

এবং সিক্রেট ম্যানেজারে এক্সপ্রেস সেশন সিক্রেটে পরিষেবা অ্যাকাউন্টের অ্যাক্সেস মঞ্জুর করুন। 

gcloud secrets add-iam-policy-binding $SECRET_ID \
    --member serviceAccount:$SERVICE_ACCOUNT_ADDRESS \
    --role='roles/secretmanager.secretAccessor'

সবশেষে, পরিষেবা অ্যাকাউন্টটিকে ফায়ারস্টোরে পড়ার এবং লেখার অ্যাক্সেস দিন। 

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member serviceAccount:$SERVICE_ACCOUNT_ADDRESS \
  --role=roles/datastore.user

৬. ক্লাউড রান পরিষেবা তৈরি করুন

প্রথমে, সোর্স কোডের জন্য একটি ডিরেক্টরি তৈরি করুন এবং সেই ডিরেক্টরিতে সিডি দিন। 

mkdir chat-with-gemini && cd chat-with-gemini

তারপর, নিম্নলিখিত বিষয়বস্তু সহ একটি package.json ফাইল তৈরি করুন: 

{
  "name": "chat-with-gemini",
  "version": "1.0.0",
  "description": "",
  "main": "app.js",
  "scripts": {
    "start": "node app.js",
    "nodemon": "nodemon app.js",
    "cssdev": "npx tailwindcss -i ./input.css -o ./public/output.css --watch",
    "tailwind": "npx tailwindcss -i ./input.css -o ./public/output.css",
    "dev": "npm run tailwind && npm run nodemon"
  },
  "keywords": [],
  "author": "",
  "license": "ISC",
  "dependencies": {
    "@google-cloud/connect-firestore": "^3.0.0",
    "@google-cloud/firestore": "^7.5.0",
    "@google-cloud/vertexai": "^0.4.0",
    "axios": "^1.6.8",
    "express": "^4.18.2",
    "express-session": "^1.18.0",
    "express-ws": "^5.0.2",
    "htmx.org": "^1.9.10"
  },
  "devDependencies": {
    "nodemon": "^3.1.0",
    "tailwindcss": "^3.4.1"
  }
}

এরপর, নিচের কন্টেন্ট দিয়ে একটি app.js সোর্স ফাইল তৈরি করুন। এই ফাইলটিতে পরিষেবার এন্ট্রি পয়েন্ট এবং অ্যাপের মূল লজিক রয়েছে। 

const express = require("express");
const app = express();
app.use(express.urlencoded({ extended: true }));
app.use(express.json());
const path = require("path");

const fs = require("fs");
const util = require("util");
const { spinnerSvg } = require("./spinnerSvg.js");

// cloud run retrieves secret at instance startup time
const secret = process.env.SESSION_SECRET;

const { Firestore } = require("@google-cloud/firestore");
const { FirestoreStore } = require("@google-cloud/connect-firestore");
var session = require("express-session");
app.set("trust proxy", 1); // trust first proxy
app.use(
    session({
        store: new FirestoreStore({
            dataset: new Firestore(),
            kind: "express-sessions"
        }),
        secret: secret,
        /* set secure to false for local dev session history testing */
        /* see more at https://expressjs.com/en/resources/middleware/session.html */
        cookie: { secure: true },
        resave: false,
        saveUninitialized: true
    })
);

const expressWs = require("express-ws")(app);

app.use(express.static("public"));

// Vertex AI Section
const { VertexAI } = require("@google-cloud/vertexai");

// instance of Vertex model
let generativeModel;

// on startup
const port = parseInt(process.env.PORT) || 8080;
app.listen(port, async () => {
    console.log(`demo1: listening on port ${port}`);

    // get project and location from metadata service
    const metadataService = require("./metadataService.js");

    const project = await metadataService.getProjectId();
    const location = await metadataService.getRegion();

    // Vertex client library instance
    const vertex_ai = new VertexAI({
        project: project,
        location: location
    });

    // Instantiate models
    generativeModel = vertex_ai.getGenerativeModel({
        model: "gemini-1.0-pro-001"
    });
});

app.ws("/sendMessage", async function (ws, req) {
    if (!req.session.chathistory || req.session.chathistory.length == 0) {
        req.session.chathistory = [];
    }

    let chatWithModel = generativeModel.startChat({
        history: req.session.chathistory
    });

    ws.on("message", async function (message) {

        console.log("req.sessionID: ", req.sessionID);
        // get session id

        let questionToAsk = JSON.parse(message).message;
        console.log("WebSocket message: " + questionToAsk);

        ws.send(`<div hx-swap-oob="beforeend:#toupdate"><div
                        id="questionToAsk"
                        class="text-black m-2 text-right border p-2 rounded-lg ml-24">
                        ${questionToAsk}
                    </div></div>`);

        // to simulate a natural pause in conversation
        await sleep(500);

        // get timestamp for div to replace
        const now = "fromGemini" + Date.now();

        ws.send(`<div hx-swap-oob="beforeend:#toupdate"><div
                        id=${now}
                        class=" text-blue-400 m-2 text-left border p-2 rounded-lg mr-24">
                        ${spinnerSvg} 
                    </div></div>`);

        const results = await chatWithModel.sendMessage(questionToAsk);
        const answer =
            results.response.candidates[0].content.parts[0].text;

        ws.send(`<div
                        id=${now}
                        hx-swap-oob="true"
                        hx-swap="outerHTML"
                        class="text-blue-400 m-2 text-left border p-2 rounded-lg mr-24">
                        ${answer}
                    </div>`);

                    // save to current chat history
        let userHistory = {
            role: "user",
            parts: [{ text: questionToAsk }]
        };
        let modelHistory = {
            role: "model",
            parts: [{ text: answer }]
        };

        req.session.chathistory.push(userHistory);
        req.session.chathistory.push(modelHistory);

        // console.log(
        //     "newly saved chat history: ",
        //     util.inspect(req.session.chathistory, {
        //         showHidden: false,
        //         depth: null,
        //         colors: true
        //     })
        // );
        req.session.save();
    });

    ws.on("close", () => {
        console.log("WebSocket was closed");
    });
});

function sleep(ms) {
    return new Promise((resolve) => {
        setTimeout(resolve, ms);
    });
}

// gracefully close the web sockets
process.on("SIGTERM", () => {
    server.close();
});

tailwindCSS এর জন্য tailwind.config.js ফাইল তৈরি করুন। 

/** @type {import('tailwindcss').Config} */
module.exports = {
    content: ["./**/*.{html,js}"],
    theme: {
        extend: {}
    },
    plugins: []
};

মোতায়েন করা ক্লাউড রান পরিষেবার জন্য প্রজেক্ট আইডি এবং অঞ্চল পেতে metadataService.js ফাইল তৈরি করুন। এই মানগুলি Vertex AI ক্লায়েন্ট লাইব্রেরির একটি উদাহরণ তৈরি করতে ব্যবহার করা হবে।

const your_project_id = "YOUR_PROJECT_ID";
const your_region = "YOUR_REGION";

const axios = require("axios");

module.exports = {
    getProjectId: async () => {
        let project = "";
        try {
            // Fetch the token to make a GCF to GCF call
            const response = await axios.get(
                "http://metadata.google.internal/computeMetadata/v1/project/project-id",
                {
                    headers: {
                        "Metadata-Flavor": "Google"
                    }
                }
            );

            if (response.data == "") {
                // running locally on Cloud Shell
                project = your_project_id;
            } else {
                // running on Clodu Run. Use project id from metadata service
                project = response.data;
            }
        } catch (ex) {
            // running locally on local terminal
            project = your_project_id;
        }

        return project;
    },

    getRegion: async () => {
        let region = "";
        try {
            // Fetch the token to make a GCF to GCF call
            const response = await axios.get(
                "http://metadata.google.internal/computeMetadata/v1/instance/region",
                {
                    headers: {
                        "Metadata-Flavor": "Google"
                    }
                }
            );

            if (response.data == "") {
                // running locally on Cloud Shell
                region = your_region;
            } else {
                // running on Clodu Run. Use region from metadata service
                let regionFull = response.data;
                const index = regionFull.lastIndexOf("/");
                region = regionFull.substring(index + 1);
            }
        } catch (ex) {
            // running locally on local terminal
            region = your_region;
        }
        return region;
    }
};

spinnerSvg.js নামে একটি ফাইল তৈরি করুন। 

module.exports.spinnerSvg = `<svg class="animate-spin -ml-1 mr-3 h-5 w-5 text-blue-500"
                    xmlns="http://www.w3.org/2000/svg"
                    fill="none"
                    viewBox="0 0 24 24"
                >
                    <circle
                        class="opacity-25"
                        cx="12"
                        cy="12"
                        r="10"
                        stroke="currentColor"
                        stroke-width="4"
                    ></circle>
                    <path
                        class="opacity-75"
                        fill="currentColor"
                        d="M4 12a8 8 0 018-8V0C5.373 0 0 5.373 0 12h4zm2 5.291A7.962 7.962 0 014 12H0c0 3.042 1.135 5.824 3 7.938l3-2.647z"
                    ></path></svg>`;

সবশেষে, tailwindCSS এর জন্য একটি input.css ফাইল তৈরি করুন। 

@tailwind base;
@tailwind components;
@tailwind utilities;

এখন, একটি নতুন public ডিরেক্টরি তৈরি করুন। 

mkdir public
cd public

এবং সেই পাবলিক ডিরেক্টরির মধ্যে, ফ্রন্ট এন্ডের জন্য index.html ফাইল তৈরি করুন, যা htmx ব্যবহার করবে। 

<!DOCTYPE html>
<html lang="en">
    <head>
        <meta charset="UTF-8" />
        <meta
            name="viewport"
            content="width=device-width, initial-scale=1.0"
        />
        <script
            src="https://unpkg.com/htmx.org@1.9.10"
            integrity="sha384-D1Kt99CQMDuVetoL1lrYwg5t+9QdHe7NLX/SoJYkXDFfX37iInKRy5xLSi8nO7UC"
            crossorigin="anonymous"
        ></script>

        <link href="./output.css" rel="stylesheet" />
        <script src="https://unpkg.com/htmx.org/dist/ext/ws.js"></script>

        <title>Demo 1</title>
    </head>
    <body>
        <div id="herewego" text-center>
            <!-- <div id="replaceme2" hx-swap-oob="true">Hello world</div> -->
            <div
                class="container mx-auto mt-8 text-center max-w-screen-lg"
            >
                <div
                    class="overflow-y-scroll bg-white p-2 border h-[500px] space-y-4 rounded-lg m-auto"
                >
                    <div id="toupdate"></div>
                </div>
                <form
                    hx-trigger="submit, keyup[keyCode==13] from:body"
                    hx-ext="ws"
                    ws-connect="/sendMessage"
                    ws-send=""
                    hx-on="htmx:wsAfterSend: document.getElementById('message').value = ''"
                >
                    <div class="mb-6 mt-6 flex gap-4">
                        <textarea
                            rows="2"
                            type="text"
                            id="message"
                            name="message"
                            class="block grow rounded-lg border p-6 resize-none"
                            required
                        >
Is C# a programming language or a musical note?</textarea
                        >
                        <button
                            type="submit"
                            class="bg-blue-500 text-white px-4 py-2 rounded-lg text-center text-sm font-medium"
                        >
                            Send
                        </button>
                    </div>
                </form>
            </div>
        </div>
    </body>
</html>

৭. স্থানীয়ভাবে পরিষেবাটি চালান

প্রথমে, নিশ্চিত করুন যে আপনি আপনার কোডল্যাবের chat-with-gemini রুট ডিরেক্টরিতে আছেন। 

cd .. && pwd

এরপর, নিম্নলিখিত কমান্ডটি চালিয়ে নির্ভরতা ইনস্টল করুন: 

npm install

স্থানীয়ভাবে চালানোর সময় ADC ব্যবহার করা

যদি আপনি ক্লাউড শেল ব্যবহার করেন, তাহলে আপনি ইতিমধ্যেই একটি Google Compute Engine ভার্চুয়াল মেশিন ব্যবহার করছেন। এই ভার্চুয়াল মেশিনের সাথে সম্পর্কিত আপনার শংসাপত্রগুলি (যেমন gcloud auth list চালানোর মাধ্যমে দেখানো হয়েছে) স্বয়ংক্রিয়ভাবে অ্যাপ্লিকেশন ডিফল্ট শংসাপত্র দ্বারা ব্যবহৃত হবে, তাই gcloud auth application-default login কমান্ড ব্যবহার করার প্রয়োজন নেই। আপনি "একটি স্থানীয় সেশন গোপন তৈরি করুন" বিভাগে যেতে পারেন।

তবে, যদি আপনি আপনার স্থানীয় টার্মিনালে (অর্থাৎ ক্লাউড শেলে না) কাজ করেন, তাহলে আপনাকে Google API-তে প্রমাণীকরণের জন্য অ্যাপ্লিকেশন ডিফল্ট শংসাপত্র ব্যবহার করতে হবে। আপনি হয় ১) আপনার শংসাপত্র ব্যবহার করে লগইন করতে পারেন (যদি আপনার Vertex AI ব্যবহারকারী এবং ডেটাস্টোর ব্যবহারকারী উভয় ভূমিকা থাকে) অথবা ২) আপনি এই কোডল্যাবে ব্যবহৃত পরিষেবা অ্যাকাউন্টের ছদ্মবেশ ধারণ করে লগইন করতে পারেন।

বিকল্প ১) ADC-এর জন্য আপনার শংসাপত্র ব্যবহার করা

যদি আপনি আপনার শংসাপত্র ব্যবহার করতে চান, তাহলে প্রথমে gcloud auth list চালাতে পারেন যাতে আপনি gcloud-এ কীভাবে প্রমাণীকরণ করেছেন তা যাচাই করতে পারেন। এরপর, আপনার পরিচয়কে Vertex AI ব্যবহারকারীর ভূমিকা দিতে হতে পারে। যদি আপনার পরিচয়ে মালিকের ভূমিকা থাকে, তাহলে আপনার ইতিমধ্যেই এই Vertex AI ব্যবহারকারীর ভূমিকা রয়েছে। যদি না থাকে, তাহলে আপনি আপনার পরিচয় Vertex AI ব্যবহারকারীর ভূমিকা এবং Datastore ব্যবহারকারীর ভূমিকা প্রদান করতে এই কমান্ডটি চালাতে পারেন। 

USER=<YOUR_PRINCIPAL_EMAIL>

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member user:$USER \
  --role=roles/aiplatform.user

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member user:$USER \
  --role=roles/datastore.user

তারপর নিম্নলিখিত কমান্ডটি চালান 

gcloud auth application-default login

বিকল্প ২) ADC-এর জন্য একটি পরিষেবা অ্যাকাউন্টের ছদ্মবেশ ধারণ করা

এই কোডল্যাবে তৈরি করা পরিষেবা অ্যাকাউন্টটি ব্যবহার করতে চাইলে, আপনার ব্যবহারকারী অ্যাকাউন্টে পরিষেবা অ্যাকাউন্ট টোকেন ক্রিয়েটর ভূমিকা থাকতে হবে। আপনি নিম্নলিখিত কমান্ডটি চালিয়ে এই ভূমিকাটি পেতে পারেন: 

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member user:$USER \
  --role=roles/iam.serviceAccountTokenCreator

এরপর, পরিষেবা অ্যাকাউন্টের সাথে ADC ব্যবহার করার জন্য আপনাকে নিম্নলিখিত কমান্ডটি চালাতে হবে 

gcloud auth application-default login --impersonate-service-account=$SERVICE_ACCOUNT_ADDRESS

একটি স্থানীয় সেশন গোপন তৈরি করুন

এখন, স্থানীয় উন্নয়নের জন্য একটি স্থানীয় অধিবেশন গোপনীয়তা তৈরি করুন। 

export SESSION_SECRET=local-secret

স্থানীয়ভাবে অ্যাপটি চালান

অবশেষে, আপনি নিম্নলিখিত স্ক্রিপ্টটি চালিয়ে অ্যাপটি শুরু করতে পারেন। এই স্ক্রিপ্টটি tailwindCSS থেকে output.css ফাইলটিও তৈরি করবে। 

npm run dev

আপনি ওয়েব প্রিভিউ বোতামটি খুলে এবং প্রিভিউ পোর্ট 8080 নির্বাচন করে ওয়েবসাইটটি প্রিভিউ করতে পারেন।

ওয়েব প্রিভিউ - পোর্ট 8080 বোতামে প্রিভিউ

৮. পরিষেবাটি স্থাপন করুন

প্রথমে, ডিপ্লয়মেন্ট শুরু করতে এই কমান্ডটি চালান এবং কোন সার্ভিস অ্যাকাউন্টটি ব্যবহার করতে হবে তা নির্দিষ্ট করুন। যদি কোন সার্ভিস অ্যাকাউন্ট নির্দিষ্ট না থাকে, তাহলে ডিফল্ট কম্পিউট সার্ভিস অ্যাকাউন্ট ব্যবহার করা হবে। 

gcloud run deploy $SERVICE \
 --service-account $SERVICE_ACCOUNT_ADDRESS \
 --source . \
  --region $REGION \
  --allow-unauthenticated \
  --set-secrets="SESSION_SECRET=$(echo $SECRET_ID):1"

যদি আপনাকে জিজ্ঞাসা করা হয় যে "উৎস থেকে স্থাপনের জন্য তৈরি কন্টেইনার সংরক্ষণের জন্য একটি আর্টিফ্যাক্ট রেজিস্ট্রি ডকার সংগ্রহস্থল প্রয়োজন। [us-central1] অঞ্চলে [cloud-run-source-deploy] নামে একটি সংগ্রহস্থল তৈরি করা হবে।", তাহলে গ্রহণ করতে এবং চালিয়ে যেতে 'y' টিপুন।

৯. পরিষেবাটি পরীক্ষা করুন

একবার ব্যবহার করা হয়ে গেলে, আপনার ওয়েব ব্রাউজারে পরিষেবা URL খুলুন। তারপর জেমিনিকে একটি প্রশ্ন জিজ্ঞাসা করুন, যেমন "আমি গিটার অনুশীলন করি কিন্তু আমি একজন সফটওয়্যার ইঞ্জিনিয়ারও। যখন আমি "C#" দেখি, তখন কি আমি এটিকে প্রোগ্রামিং ভাষা হিসেবে ভাবব নাকি একটি সঙ্গীত নোট হিসেবে? আমার কোনটি বেছে নেওয়া উচিত?"

১০. অভিনন্দন!

কোডল্যাবটি সম্পন্ন করার জন্য অভিনন্দন!

আমরা ক্লাউড রান এবং ভার্টেক্স এআই জেমিনি এপিআই ডকুমেন্টেশন পর্যালোচনা করার পরামর্শ দিচ্ছি।

আমরা যা কভার করেছি

  • ক্লাউড রান পরিষেবা তৈরি করতে htmx, tailwindcss এবং express.js কীভাবে ব্যবহার করবেন
  • গুগল এপিআই-তে প্রমাণীকরণের জন্য ভার্টেক্স এআই ক্লায়েন্ট লাইব্রেরিগুলি কীভাবে ব্যবহার করবেন
  • জেমিনি মডেলের সাথে যোগাযোগ করার জন্য কীভাবে একটি চ্যাট বট তৈরি করবেন
  • ডকার ফাইল ছাড়াই ক্লাউড রান সার্ভিসে কীভাবে স্থাপন করবেন
  • গুগল ক্লাউড ফায়ারস্টোর দ্বারা সমর্থিত একটি এক্সপ্রেস সেশন স্টোর কীভাবে ব্যবহার করবেন

১১. পরিষ্কার করা

অসাবধানতাবশত চার্জ এড়াতে, (উদাহরণস্বরূপ, যদি ক্লাউড রান পরিষেবাগুলি আপনার মাসিক ফ্রি টিয়ারে ক্লাউড রান ইনভোকমেন্ট বরাদ্দের চেয়ে বেশিবার অসাবধানতাবশত ইনভোক করা হয়), আপনি হয় ক্লাউড রান মুছে ফেলতে পারেন অথবা ধাপ ২-এ তৈরি করা প্রকল্পটি মুছে ফেলতে পারেন।

ক্লাউড রান পরিষেবাটি মুছে ফেলার জন্য, https://console.cloud.google.com/run এ ক্লাউড রান ক্লাউড কনসোলে যান এবং chat-with-gemini পরিষেবাটি মুছে ফেলুন। জেমিনিকে কোনও অসাবধানতাবশত কল এড়াতে আপনি vertex-ai-caller পরিষেবা অ্যাকাউন্টটি মুছে ফেলতে বা Vertex AI ব্যবহারকারীর ভূমিকা প্রত্যাহার করতে চাইতে পারেন।

যদি আপনি সম্পূর্ণ প্রকল্পটি মুছে ফেলতে চান, তাহলে আপনি https://console.cloud.google.com/cloud-resource-manager এ যেতে পারেন, ধাপ ২-এ তৈরি করা প্রকল্পটি নির্বাচন করুন এবং মুছে ফেলুন নির্বাচন করুন। যদি আপনি প্রকল্পটি মুছে ফেলেন, তাহলে আপনাকে আপনার ক্লাউড SDK-তে প্রকল্পগুলি পরিবর্তন করতে হবে। আপনি gcloud projects list চালিয়ে সমস্ত উপলব্ধ প্রকল্পের তালিকা দেখতে পারেন।