Gemini के साथ काम करने वाले चैट ऐप्लिकेशन को Cloud Run पर डिप्लॉय करने का तरीका

1. परिचय

खास जानकारी

इस कोडलैब में, आपको यह पता चलेगा कि Vertex AI Gemini API और Vertex AI क्लाइंट लाइब्रेरी का इस्तेमाल करके, नोड में लिखा गया एक बुनियादी चैट बॉट कैसे बनाया जा सकता है. यह ऐप्लिकेशन, Google Cloud Firestore की मदद से बनाए गए एक्सप्रेस सेशन स्टोर का इस्तेमाल करता है.

आपको क्या सीखने को मिलेगा

  • Cloud Run सेवा बनाने के लिए, htmx, tailwindcss, और express.js का इस्तेमाल करने का तरीका
  • Google API में पुष्टि करने के लिए, Vertex AI क्लाइंट लाइब्रेरी का इस्तेमाल कैसे करें
  • Gemini मॉडल के साथ इंटरैक्ट करने के लिए चैटबॉट कैसे बनाएं
  • Docker फ़ाइल के बिना Cloud Run सेवा पर डिप्लॉय करने का तरीका
  • Google Cloud Firestore की मदद से, एक्सप्रेस सेशन स्टोर का इस्तेमाल करने का तरीका

2. सेटअप और ज़रूरी शर्तें

ज़रूरी शर्तें

Cloud Shell चालू करें

  1. Cloud Console में, Cloud Shell चालू करें d1264ca30785e435.png पर क्लिक करें.

cb81e7c8e34bc8d.png

अगर आपने Cloud Shell को पहली बार शुरू किया है, तो आपको एक इंटरमीडिएट स्क्रीन दिखेगी. इसमें Cloud Shell के बारे में जानकारी दी गई होगी. अगर आपको इंटरमीडिएट स्क्रीन दिखती है, तो जारी रखें पर क्लिक करें.

d95252b003979716.png

Cloud Shell से कनेक्ट होने में कुछ ही सेकंड लगेंगे.

7833d5e1c5d18f54.png

इस वर्चुअल मशीन में, डेवलपमेंट के लिए ज़रूरी सभी टूल पहले से मौजूद हैं. यह 5 जीबी की होम डायरेक्ट्री उपलब्ध कराता है, जो हमेशा बनी रहती है. साथ ही, यह Google Cloud में काम करता है. इससे नेटवर्क की परफ़ॉर्मेंस और पुष्टि करने की प्रोसेस बेहतर होती है. इस कोडलैब में ज़्यादातर काम ब्राउज़र से किया जा सकता है.

Cloud Shell से कनेक्ट होने के बाद, आपको दिखेगा कि आपकी पुष्टि हो गई है और प्रोजेक्ट को आपके प्रोजेक्ट आईडी पर सेट कर दिया गया है.

  1. पुष्टि करें कि आपने Cloud Shell में पुष्टि कर ली है. इसके लिए, यह कमांड चलाएं:
gcloud auth list

कमांड आउटपुट

 Credentialed Accounts
ACTIVE  ACCOUNT
*       <my_account>@<my_domain.com>

To set the active account, run:
    $ gcloud config set account `ACCOUNT`
  1. यह पुष्टि करने के लिए कि gcloud कमांड को आपके प्रोजेक्ट के बारे में पता है, Cloud Shell में यह कमांड चलाएं:
gcloud config list project

कमांड आउटपुट

[core]
project = <PROJECT_ID>

अगर ऐसा नहीं है, तो इस कमांड का इस्तेमाल करके इसे सेट किया जा सकता है:

gcloud config set project <PROJECT_ID>

कमांड आउटपुट

Updated property [core/project].

3. एपीआई चालू करना और एनवायरमेंट वैरिएबल सेट करना

एपीआई चालू करें

इस कोडलैब का इस्तेमाल करने से पहले, आपको कई एपीआई चालू करने होंगे. इस कोडलैब के लिए, इन एपीआई का इस्तेमाल करना ज़रूरी है. इन एपीआई को चालू करने के लिए, यह कमांड चलाएं:

gcloud services enable run.googleapis.com \
    cloudbuild.googleapis.com \
    aiplatform.googleapis.com \
    secretmanager.googleapis.com

एनवायरमेंट वैरिएबल सेट अप करना

ऐसे एनवायरमेंट वैरिएबल सेट किए जा सकते हैं जिनका इस्तेमाल इस कोडलैब में किया जाएगा.

PROJECT_ID=<YOUR_PROJECT_ID>
REGION=<YOUR_REGION, e.g. us-central1>
SERVICE=chat-with-gemini
SERVICE_ACCOUNT="vertex-ai-caller"
SERVICE_ACCOUNT_ADDRESS=$SERVICE_ACCOUNT@$PROJECT_ID.iam.gserviceaccount.com
SECRET_ID="SESSION_SECRET"

4. Firebase प्रोजेक्ट बनाना और उसे कॉन्फ़िगर करना

  1. Firebase कंसोल में, प्रोजेक्ट जोड़ें पर क्लिक करें.
  2. अपने किसी मौजूदा Google Cloud प्रोजेक्ट में Firebase जोड़ने के लिए, <YOUR_PROJECT_ID> डालें
  3. अगर प्रॉम्प्ट मिलता है, तो Firebase की शर्तें पढ़ें और उन्हें स्वीकार करें.
  4. जारी रखें पर क्लिक करें.
  5. Firebase के बिलिंग प्लान की पुष्टि करने के लिए, प्लान की पुष्टि करें पर क्लिक करें.
  6. इस कोडलैब के लिए, Google Analytics को चालू करना ज़रूरी नहीं है.
  7. Firebase जोड़ें पर क्लिक करें.
  8. प्रोजेक्ट बन जाने के बाद, जारी रखें पर क्लिक करें.
  9. बनाएं मेन्यू में जाकर, Firestore डेटाबेस पर क्लिक करें.
  10. डेटाबेस बनाएं पर क्लिक करें.
  11. जगह ड्रॉप-डाउन से अपना इलाका चुनें. इसके बाद, आगे बढ़ें पर क्लिक करें.
  12. डिफ़ॉल्ट प्रोडक्शन मोड में शुरू करें का इस्तेमाल करें. इसके बाद, बनाएं पर क्लिक करें.

5. सेवा खाता बनाना

इस सेवा खाते का इस्तेमाल, Cloud Run करेगा. इससे Vertex AI Gemini API को कॉल किया जा सकेगा. इस सेवा खाते के पास Firestore में डेटा पढ़ने और लिखने की अनुमतियां भी होंगी. साथ ही, इसके पास Secret Manager से सीक्रेट पढ़ने की अनुमति भी होगी.

सबसे पहले, यह कमांड चलाकर सेवा खाता बनाएं:

gcloud iam service-accounts create $SERVICE_ACCOUNT \
  --display-name="Cloud Run to access Vertex AI APIs"

दूसरा, सेवा खाते को Vertex AI के उपयोगकर्ता की भूमिका असाइन करें.

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member serviceAccount:$SERVICE_ACCOUNT_ADDRESS \
  --role=roles/aiplatform.user

अब Secret Manager में एक सीक्रेट बनाएं. Cloud Run सेवा, इस सीक्रेट को एनवायरमेंट वैरिएबल के तौर पर ऐक्सेस करेगी. इसे इंस्टेंस के चालू होने के समय हल किया जाता है. सीक्रेट और Cloud Run के बारे में ज़्यादा जानें.

gcloud secrets create $SECRET_ID --replication-policy="automatic"
printf "keyboard-cat" | gcloud secrets versions add $SECRET_ID --data-file=-

साथ ही, सेवा खाते को Secret Manager में एक्सप्रेस सेशन के सीक्रेट का ऐक्सेस दें.

gcloud secrets add-iam-policy-binding $SECRET_ID \
    --member serviceAccount:$SERVICE_ACCOUNT_ADDRESS \
    --role='roles/secretmanager.secretAccessor'

आखिर में, सेवा खाते को Firestore में डेटा पढ़ने और लिखने की अनुमति दें.

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member serviceAccount:$SERVICE_ACCOUNT_ADDRESS \
  --role=roles/datastore.user

6. Cloud Run सेवा बनाना

सबसे पहले, सोर्स कोड के लिए एक डायरेक्ट्री बनाएं और उस डायरेक्ट्री में cd करें.

mkdir chat-with-gemini && cd chat-with-gemini

इसके बाद, यहां दिए गए कॉन्टेंट के साथ package.json फ़ाइल बनाएं:

{
  "name": "chat-with-gemini",
  "version": "1.0.0",
  "description": "",
  "main": "app.js",
  "scripts": {
    "start": "node app.js",
    "nodemon": "nodemon app.js",
    "cssdev": "npx tailwindcss -i ./input.css -o ./public/output.css --watch",
    "tailwind": "npx tailwindcss -i ./input.css -o ./public/output.css",
    "dev": "npm run tailwind && npm run nodemon"
  },
  "keywords": [],
  "author": "",
  "license": "ISC",
  "dependencies": {
    "@google-cloud/connect-firestore": "^3.0.0",
    "@google-cloud/firestore": "^7.5.0",
    "@google-cloud/vertexai": "^0.4.0",
    "axios": "^1.6.8",
    "express": "^4.18.2",
    "express-session": "^1.18.0",
    "express-ws": "^5.0.2",
    "htmx.org": "^1.9.10"
  },
  "devDependencies": {
    "nodemon": "^3.1.0",
    "tailwindcss": "^3.4.1"
  }
}

इसके बाद, नीचे दिए गए कॉन्टेंट के साथ app.js सोर्स फ़ाइल बनाएं. इस फ़ाइल में, सेवा के लिए एंट्री पॉइंट होता है. साथ ही, इसमें ऐप्लिकेशन के लिए मुख्य लॉजिक होता है.

const express = require("express");
const app = express();
app.use(express.urlencoded({ extended: true }));
app.use(express.json());
const path = require("path");

const fs = require("fs");
const util = require("util");
const { spinnerSvg } = require("./spinnerSvg.js");

// cloud run retrieves secret at instance startup time
const secret = process.env.SESSION_SECRET;

const { Firestore } = require("@google-cloud/firestore");
const { FirestoreStore } = require("@google-cloud/connect-firestore");
var session = require("express-session");
app.set("trust proxy", 1); // trust first proxy
app.use(
    session({
        store: new FirestoreStore({
            dataset: new Firestore(),
            kind: "express-sessions"
        }),
        secret: secret,
        /* set secure to false for local dev session history testing */
        /* see more at https://expressjs.com/en/resources/middleware/session.html */
        cookie: { secure: true },
        resave: false,
        saveUninitialized: true
    })
);

const expressWs = require("express-ws")(app);

app.use(express.static("public"));

// Vertex AI Section
const { VertexAI } = require("@google-cloud/vertexai");

// instance of Vertex model
let generativeModel;

// on startup
const port = parseInt(process.env.PORT) || 8080;
app.listen(port, async () => {
    console.log(`demo1: listening on port ${port}`);

    // get project and location from metadata service
    const metadataService = require("./metadataService.js");

    const project = await metadataService.getProjectId();
    const location = await metadataService.getRegion();

    // Vertex client library instance
    const vertex_ai = new VertexAI({
        project: project,
        location: location
    });

    // Instantiate models
    generativeModel = vertex_ai.getGenerativeModel({
        model: "gemini-1.0-pro-001"
    });
});

app.ws("/sendMessage", async function (ws, req) {
    if (!req.session.chathistory || req.session.chathistory.length == 0) {
        req.session.chathistory = [];
    }

    let chatWithModel = generativeModel.startChat({
        history: req.session.chathistory
    });

    ws.on("message", async function (message) {

        console.log("req.sessionID: ", req.sessionID);
        // get session id

        let questionToAsk = JSON.parse(message).message;
        console.log("WebSocket message: " + questionToAsk);

        ws.send(`<div hx-swap-oob="beforeend:#toupdate"><div
                        id="questionToAsk"
                        class="text-black m-2 text-right border p-2 rounded-lg ml-24">
                        ${questionToAsk}
                    </div></div>`);

        // to simulate a natural pause in conversation
        await sleep(500);

        // get timestamp for div to replace
        const now = "fromGemini" + Date.now();

        ws.send(`<div hx-swap-oob="beforeend:#toupdate"><div
                        id=${now}
                        class=" text-blue-400 m-2 text-left border p-2 rounded-lg mr-24">
                        ${spinnerSvg} 
                    </div></div>`);

        const results = await chatWithModel.sendMessage(questionToAsk);
        const answer =
            results.response.candidates[0].content.parts[0].text;

        ws.send(`<div
                        id=${now}
                        hx-swap-oob="true"
                        hx-swap="outerHTML"
                        class="text-blue-400 m-2 text-left border p-2 rounded-lg mr-24">
                        ${answer}
                    </div>`);

                    // save to current chat history
        let userHistory = {
            role: "user",
            parts: [{ text: questionToAsk }]
        };
        let modelHistory = {
            role: "model",
            parts: [{ text: answer }]
        };

        req.session.chathistory.push(userHistory);
        req.session.chathistory.push(modelHistory);

        // console.log(
        //     "newly saved chat history: ",
        //     util.inspect(req.session.chathistory, {
        //         showHidden: false,
        //         depth: null,
        //         colors: true
        //     })
        // );
        req.session.save();
    });

    ws.on("close", () => {
        console.log("WebSocket was closed");
    });
});

function sleep(ms) {
    return new Promise((resolve) => {
        setTimeout(resolve, ms);
    });
}

// gracefully close the web sockets
process.on("SIGTERM", () => {
    server.close();
});

TailwindCSS के लिए tailwind.config.js फ़ाइल बनाएं.

/** @type {import('tailwindcss').Config} */
module.exports = {
    content: ["./**/*.{html,js}"],
    theme: {
        extend: {}
    },
    plugins: []
};

डिप्लॉय की गई Cloud Run सेवा के लिए, प्रोजेक्ट आईडी और क्षेत्र की जानकारी पाने के लिए metadataService.js फ़ाइल बनाएं. इन वैल्यू का इस्तेमाल, Vertex AI क्लाइंट लाइब्रेरी का इंस्टेंस बनाने के लिए किया जाएगा.

const your_project_id = "YOUR_PROJECT_ID";
const your_region = "YOUR_REGION";

const axios = require("axios");

module.exports = {
    getProjectId: async () => {
        let project = "";
        try {
            // Fetch the token to make a GCF to GCF call
            const response = await axios.get(
                "http://metadata.google.internal/computeMetadata/v1/project/project-id",
                {
                    headers: {
                        "Metadata-Flavor": "Google"
                    }
                }
            );

            if (response.data == "") {
                // running locally on Cloud Shell
                project = your_project_id;
            } else {
                // running on Clodu Run. Use project id from metadata service
                project = response.data;
            }
        } catch (ex) {
            // running locally on local terminal
            project = your_project_id;
        }

        return project;
    },

    getRegion: async () => {
        let region = "";
        try {
            // Fetch the token to make a GCF to GCF call
            const response = await axios.get(
                "http://metadata.google.internal/computeMetadata/v1/instance/region",
                {
                    headers: {
                        "Metadata-Flavor": "Google"
                    }
                }
            );

            if (response.data == "") {
                // running locally on Cloud Shell
                region = your_region;
            } else {
                // running on Clodu Run. Use region from metadata service
                let regionFull = response.data;
                const index = regionFull.lastIndexOf("/");
                region = regionFull.substring(index + 1);
            }
        } catch (ex) {
            // running locally on local terminal
            region = your_region;
        }
        return region;
    }
};

spinnerSvg.js नाम की फ़ाइल बनाना

module.exports.spinnerSvg = `<svg class="animate-spin -ml-1 mr-3 h-5 w-5 text-blue-500"
                    xmlns="http://www.w3.org/2000/svg"
                    fill="none"
                    viewBox="0 0 24 24"
                >
                    <circle
                        class="opacity-25"
                        cx="12"
                        cy="12"
                        r="10"
                        stroke="currentColor"
                        stroke-width="4"
                    ></circle>
                    <path
                        class="opacity-75"
                        fill="currentColor"
                        d="M4 12a8 8 0 018-8V0C5.373 0 0 5.373 0 12h4zm2 5.291A7.962 7.962 0 014 12H0c0 3.042 1.135 5.824 3 7.938l3-2.647z"
                    ></path></svg>`;

आखिर में, TailwindCSS के लिए input.css फ़ाइल बनाएं.

@tailwind base;
@tailwind components;
@tailwind utilities;

अब, नई public डायरेक्ट्री बनाएं.

mkdir public
cd public

इसके बाद, उस सार्वजनिक डायरेक्ट्री में फ़्रंट एंड के लिए index.html फ़ाइल बनाएं. यह htmx का इस्तेमाल करेगी.

<!DOCTYPE html>
<html lang="en">
    <head>
        <meta charset="UTF-8" />
        <meta
            name="viewport"
            content="width=device-width, initial-scale=1.0"
        />
        <script
            src="https://unpkg.com/htmx.org@1.9.10"
            integrity="sha384-D1Kt99CQMDuVetoL1lrYwg5t+9QdHe7NLX/SoJYkXDFfX37iInKRy5xLSi8nO7UC"
            crossorigin="anonymous"
        ></script>

        <link href="./output.css" rel="stylesheet" />
        <script src="https://unpkg.com/htmx.org/dist/ext/ws.js"></script>

        <title>Demo 1</title>
    </head>
    <body>
        <div id="herewego" text-center>
            <!-- <div id="replaceme2" hx-swap-oob="true">Hello world</div> -->
            <div
                class="container mx-auto mt-8 text-center max-w-screen-lg"
            >
                <div
                    class="overflow-y-scroll bg-white p-2 border h-[500px] space-y-4 rounded-lg m-auto"
                >
                    <div id="toupdate"></div>
                </div>
                <form
                    hx-trigger="submit, keyup[keyCode==13] from:body"
                    hx-ext="ws"
                    ws-connect="/sendMessage"
                    ws-send=""
                    hx-on="htmx:wsAfterSend: document.getElementById('message').value = ''"
                >
                    <div class="mb-6 mt-6 flex gap-4">
                        <textarea
                            rows="2"
                            type="text"
                            id="message"
                            name="message"
                            class="block grow rounded-lg border p-6 resize-none"
                            required
                        >
Is C# a programming language or a musical note?</textarea
                        >
                        <button
                            type="submit"
                            class="bg-blue-500 text-white px-4 py-2 rounded-lg text-center text-sm font-medium"
                        >
                            Send
                        </button>
                    </div>
                </form>
            </div>
        </div>
    </body>
</html>

7. सेवा को स्थानीय तौर पर चलाना

सबसे पहले, पक्का करें कि आप अपने कोडलैब के लिए रूट डायरेक्ट्री chat-with-gemini में हों.

cd .. && pwd

इसके बाद, यह कमांड चलाकर ज़रूरी सॉफ़्टवेयर इंस्टॉल करें:

npm install

स्थानीय तौर पर विज्ञापन दिखाने के लिए, एडीसी का इस्तेमाल करना

अगर Cloud Shell में काम किया जा रहा है, तो इसका मतलब है कि Google Compute Engine की वर्चुअल मशीन का इस्तेमाल किया जा रहा है. इस वर्चुअल मशीन से जुड़े आपके क्रेडेंशियल (जैसा कि gcloud auth list चलाने पर दिखता है) का इस्तेमाल, ऐप्लिकेशन के डिफ़ॉल्ट क्रेडेंशियल अपने-आप करेंगे. इसलिए, gcloud auth application-default login कमांड का इस्तेमाल करना ज़रूरी नहीं है. सीधे लोकल सेशन सीक्रेट बनाना सेक्शन पर जाएं

हालांकि, अगर इसे अपने लोकल टर्मिनल (यानी कि Cloud Shell में नहीं) पर चलाया जा रहा है, तो आपको Google API से पुष्टि करने के लिए, ऐप्लिकेशन के डिफ़ॉल्ट क्रेडेंशियल का इस्तेमाल करना होगा. आपके पास दो विकल्प हैं: 1) अपने क्रेडेंशियल का इस्तेमाल करके लॉगिन करें. इसके लिए, आपके पास Vertex AI User और Datastore User, दोनों भूमिकाएं होनी चाहिए. 2) इस कोडलैब में इस्तेमाल किए गए सेवा खाते के तौर पर लॉगिन करें.

पहला विकल्प) एडीसी के लिए अपने क्रेडेंशियल का इस्तेमाल करना

अगर आपको अपने क्रेडेंशियल का इस्तेमाल करना है, तो सबसे पहले gcloud auth list चलाकर पुष्टि करें कि gcloud में आपकी पुष्टि कैसे की जाती है. इसके बाद, आपको अपनी पहचान को Vertex AI User की भूमिका देनी पड़ सकती है. अगर आपकी पहचान के पास मालिक की भूमिका है, तो आपके पास पहले से ही Vertex AI उपयोगकर्ता की यह भूमिका है. अगर ऐसा नहीं है, तो इस कमांड को चलाकर, Vertex AI के उपयोगकर्ता की भूमिका और Datastore के उपयोगकर्ता की भूमिका असाइन करें.

USER=<YOUR_PRINCIPAL_EMAIL>

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member user:$USER \
  --role=roles/aiplatform.user

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member user:$USER \
  --role=roles/datastore.user

इसके बाद, यह कमांड चलाएं

gcloud auth application-default login

दूसरा विकल्प) एडीसी के लिए सेवा खाते से मिलता-जुलता खाता बनाना

अगर आपको इस कोडलैब में बनाए गए सेवा खाते का इस्तेमाल करना है, तो आपके उपयोगकर्ता खाते के पास सेवा खाता टोकन क्रिएटर की भूमिका होनी चाहिए. यह भूमिका पाने के लिए, यह कमांड चलाएं:

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member user:$USER \
  --role=roles/iam.serviceAccountTokenCreator

इसके बाद, सेवा खाते के साथ एडीसी का इस्तेमाल करने के लिए, आपको यह कमांड चलानी होगी

gcloud auth application-default login --impersonate-service-account=$SERVICE_ACCOUNT_ADDRESS

लोकल सेशन सीक्रेट बनाना

अब लोकल डेवलपमेंट के लिए, लोकल सेशन सीक्रेट बनाएं.

export SESSION_SECRET=local-secret

ऐप्लिकेशन को स्थानीय तौर पर चलाना

आखिर में, इस स्क्रिप्ट को चलाकर ऐप्लिकेशन शुरू किया जा सकता है. यह स्क्रिप्ट, tailwindCSS से output.css फ़ाइल भी जनरेट करेगी.

npm run dev

वेबसाइट की झलक देखने के लिए, 'वेब की झलक देखें' बटन खोलें और 'पोर्ट 8080 की झलक देखें' को चुनें

वेब प्रीव्यू - पोर्ट 8080 पर झलक देखें बटन

8. सेवा को डिप्लॉय करना

सबसे पहले, डिप्लॉयमेंट शुरू करने के लिए यह कमांड चलाएं. साथ ही, इस्तेमाल किए जाने वाले सेवा खाते के बारे में बताएं. अगर कोई सेवा खाता नहीं दिया जाता है, तो Compute Engine के डिफ़ॉल्ट सेवा खाते का इस्तेमाल किया जाता है.

gcloud run deploy $SERVICE \
 --service-account $SERVICE_ACCOUNT_ADDRESS \
 --source . \
  --region $REGION \
  --allow-unauthenticated \
  --set-secrets="SESSION_SECRET=$(echo $SECRET_ID):1"

अगर आपको यह सूचना मिलती है कि "सोर्स से डिप्लॉय करने के लिए, Artifact Registry की Docker रिपॉज़िटरी की ज़रूरत होती है, ताकि बनाए गए कंटेनर सेव किए जा सकें. [us-central1] क्षेत्र में [cloud-run-source-deploy] नाम की एक रिपॉज़िटरी बनाई जाएगी." स्वीकार करने और जारी रखने के लिए, ‘y' दबाएं.

9. सेवा को आज़माना

डिप्लॉय होने के बाद, अपने वेब ब्राउज़र में सेवा का यूआरएल खोलें. इसके बाद, Gemini से कोई सवाल पूछें. जैसे, "मैं गिटार बजाता/बजाती हूं, लेकिन मैं एक सॉफ़्टवेयर इंजीनियर भी हूं. जब मुझे "C#" दिखता है, तो मुझे इसे प्रोग्रामिंग भाषा के तौर पर देखना चाहिए या म्यूज़िकल नोट के तौर पर? मुझे कौनसा विकल्प चुनना चाहिए?"

10. बधाई हो!

कोडलैब पूरा करने के लिए बधाई!

हमारा सुझाव है कि आप Cloud Run और Vertex AI Gemini API से जुड़े दस्तावेज़ देखें.

हमने क्या-क्या बताया

  • Cloud Run सेवा बनाने के लिए, htmx, tailwindcss, और express.js का इस्तेमाल करने का तरीका
  • Google API में पुष्टि करने के लिए, Vertex AI क्लाइंट लाइब्रेरी का इस्तेमाल कैसे करें
  • Gemini मॉडल से इंटरैक्ट करने के लिए चैट बॉट कैसे बनाएं
  • Docker फ़ाइल के बिना Cloud Run सेवा पर डिप्लॉय करने का तरीका
  • Google Cloud Firestore की मदद से, एक्सप्रेस सेशन स्टोर का इस्तेमाल करने का तरीका

11. व्यवस्थित करें

अनचाहे शुल्क से बचने के लिए, Cloud Run को मिटा दें या दूसरे चरण में बनाए गए प्रोजेक्ट को मिटा दें. उदाहरण के लिए, अगर Cloud Run की सेवाओं को मुफ़्त टियर में Cloud Run के लिए तय की गई सीमा से ज़्यादा बार इस्तेमाल किया जाता है, तो अनचाहे शुल्क लग सकते हैं.

Cloud Run सेवा को मिटाने के लिए, Cloud Run Cloud Console पर जाएं. इसके लिए, https://console.cloud.google.com/run पर जाएं और chat-with-gemini सेवा को मिटाएं. Gemini को गलती से कॉल करने से बचने के लिए, vertex-ai-caller सेवा खाता मिटाया जा सकता है या Vertex AI User की भूमिका को रद्द किया जा सकता है.

अगर आपको पूरा प्रोजेक्ट मिटाना है, तो https://console.cloud.google.com/cloud-resource-manager पर जाएं. इसके बाद, दूसरे चरण में बनाया गया प्रोजेक्ट चुनें और मिटाएं को चुनें. प्रोजेक्ट मिटाने पर, आपको Cloud SDK में प्रोजेक्ट बदलने होंगे. gcloud projects list कमांड चलाकर, सभी उपलब्ध प्रोजेक्ट की सूची देखी जा सकती है.