১. ভূমিকা
বেশিরভাগ ব্যাকএন্ড সফ্টওয়্যারের আসলে অনুচ্ছেদ লেখার জন্য AI মডেলের প্রয়োজন হয় না, এটির শুধু একটি নির্দিষ্ট প্রশ্নের দ্রুত, বিশ্বস্ত উত্তর প্রয়োজন: হ্যাঁ বা না? কোন সহায়তা টিম এই টিকিটটি ম্যানেজ করে? এটি কতটা জরুরি?
TypeSafe AI-এর Jev-এর মতো প্রাথমিক ডেডিকেটেড ক্লাসিফায়ার সম্প্রতি "হ্যাঁ/না" মডেলে ডেভেলপারদের আগ্রহ জাগিয়ে তুলেছে। এটি দেখায় যে আপনি যখন ধীর, টোকেন-বাই-টোকেন JSON জেনারেশন ড্রপ করেন এবং একটি পাসে ক্লোজড-সেট সিদ্ধান্ত স্কোর করেন তখন কী ঘটে।
Google DeepMind-এর Gemini Decisions API (gemini-decision-1 দ্বারা পরিচালিত) এই ক্ষমতাকে নেটিভভাবে google-genai SDK-তে নিয়ে আসে, যা আপনাকে ক্যালিব্রেট করা সম্ভাব্যতা, শূন্য আউটপুট টোকেন এবং টেক্সট, ফটো, অডিও, ভিডিও ও PDF জুড়ে বিল্ট-ইন মাল্টিমোডাল সাপোর্ট সহ একবারে ১,০০০টি পর্যন্ত yes/no (noul), একাধিক-পছন্দের (choice) এবং অর্ডার করা-স্কেল (score) প্রশ্ন মূল্যায়ন করতে দেয়।
আপনি কী করবেন
- লোকাল Python এনভায়রনমেন্ট সেট-আপ করুন এবং Google AI Studio API কী ব্যবহার করে
gemini-decision-1-এর সাথে কানেক্ট করুন। - Gemini Decisions API বুঝতে আপনাকে সাহায্য করার জন্য, রাউটিং টিকিট, নিরাপত্তা সংক্রান্ত নিয়ম ও মাল্টিমোডাল ডেটা সংক্রান্ত সিদ্ধান্ত নেওয়া সহ বিভিন্ন স্যাম্পেল প্রোগ্রাম রান করুন।
আপনি কী শিখবেন
- সহজ রাউটিং সংক্রান্ত সিদ্ধান্ত নেওয়ার ক্ষেত্রে JSON-এর জন্য চ্যাট LLM-কে প্রম্পট করলে কেন লেটেন্সি, খরচ, পার্সিং ও কনফিডেন্স সংক্রান্ত সমস্যা তৈরি হয়।
- তিন ধরনের প্রশ্ন:
noul(হ্যাঁ/না),choice(একটি বিকল্প বেছে নিন) এবংscore(ক্রম অনুযায়ী স্কেল), কীভাবে একটিclient.decisions.createকলে একসাথে কাজ করে। resolutionব্যবহার করে কীভাবে মাল্টিমোডাল টোকেন খরচ কন্ট্রোল করবেন এবংinput_tokens_by_modality-এর মাধ্যমে ব্যবহার চেক করবেন।
আপনার যা প্রয়োজন হবে
- আপনার মেশিনে (বা Google Cloud Shell-এ) Python 3.11+ এবং
gitইনস্টল করা আছে। - Google AI Studio থেকে পাওয়া Gemini API Key (এই কোডল্যাবের জন্য কোনও Google Cloud প্রোজেক্ট সেট-আপ করার প্রয়োজন নেই)।
২. Gemini Decisions API সম্পর্কে বোঝা
চ্যাট LLM-কে JSON-এর জন্য জিজ্ঞাসা করলে কেন ব্যাকএন্ড স্লো হয়ে যায়
চ্যাট LLM-কে মানুষের সাথে কথোপকথন করার জন্য তৈরি করা হয়েছে। আপনি যখন কোনও অ্যাসিস্ট্যান্টকে ইমেল লিখতে বা কোনও সমস্যার ব্যাখ্যা করতে বলেন, তখন স্ক্রিনে শব্দগুলি স্ট্রিম করার সময় কয়েক সেকেন্ড অপেক্ষা করা সম্পূর্ণ স্বাভাবিক বলে মনে হয়।
সমস্যা তখন শুরু হয় যখন ব্যাকএন্ড পরিষেবাগুলি দ্রুত রাউটিং সিদ্ধান্ত নেওয়ার জন্য একই চ্যাট ওয়ার্কফ্লো ব্যবহার করে, যেমন "আমার অর্ডার #১৯০২৮ কোথায়?" কোথায় পাঠাতে হবে বা এটি অটোমেটিক পূরণ করা নিরাপদ কিনা তা সিদ্ধান্ত নেওয়া।
এইসব ব্যবহারের ক্ষেত্রে Chat মডেল ব্যবহার করলে, উত্তর দিতে অনেক বেশি সময় লাগে, খরচ বেশি হয় এবং সবচেয়ে গুরুত্বপূর্ণ হল, উত্তরগুলি ভঙ্গুর হয়, যার ফলে এজেন্টদের পক্ষে কোনও নির্দিষ্ট অ্যাকশন নেওয়া বা নির্দিষ্ট দিকে এগিয়ে যাওয়ার ক্ষেত্রে নির্ভরযোগ্য আত্মবিশ্বাস থাকে না।
gemini-decision-1 কীভাবে কাজ করে
টোকেন-বাই-টোকেন টেক্সট জেনারেট করার পরিবর্তে, gemini-decision-1 আপনার ইনপুট একবার পড়ে এবং আপনার সব প্রশ্নের স্কোর একবারে দেয়—সরাসরি ক্যালিব্রেট করা সম্ভাবনা প্রদান করে।

- জিরো আউটপুট টোকেন ($০.১০ / ১ মিলিয়ন ইনপুট টোকেন, $০ আউটপুট টোকেন): যেহেতু মডেলটি কখনই টেক্সট বা থিঙ্কিং টোকেন জেনারেট করে না, তাই
total_output_tokensসবসময়0হয়। আপনি যতগুলি প্রশ্নই অ্যাটাচ করুন না কেন, আপনার শেয়ার করাinput-এর জন্য কল প্রতি একবার বিল করা হয়। - ৫০–১০০ মিলিসেকেন্ড মডেল কম্পিউট: টোকেন-বাই-টোকেন জেনারেশন ছাড়াই, মডেল কম্পিউট দ্রুত এবং অনুমানযোগ্য থাকে, এমনকি আপনি একটি অনুরোধে ১০, ৫০ বা ১০০টি প্রশ্ন জিজ্ঞাসা করলেও।
- মাল্টিমোডাল আউট অফ দ্য বক্স: টোকেন খরচ নিয়ন্ত্রণ করতে ছবি ও ভিডিওতে
resolutionসেটিংস (low,medium,high,ultra_high) সহ ২৬২,১৪৪-টোকেন কন্টেক্সট উইন্ডো জুড়ে টেক্সট, ছবি, অডিও, ভিডিও এবং PDF ডকুমেন্ট একসাথে মূল্যায়ন করে।
তিন ধরনের প্রশ্ন (noul, choice, score)
client.decisions.create-এ করা প্রতিটি কল একটি questions ডিকশনারি নেয় যেখানে প্রতিটি প্রশ্ন তিনটি প্রকারের মধ্যে একটি ব্যবহার করে:
Type | কখন ব্যবহার করবেন | What Comes Back |
noul (হ্যাঁ / না) | কোনও বিবৃতি সত্য কিনা তা চেক করুন ("এটি কি প্রম্পট ইঞ্জেকশন?") | noul (yes probability in [0.01, 0.99]) and confidence |
পছন্দ (২–২৫৫টি বিকল্প) | একটি নির্দিষ্ট ডিকশনারি থেকে একজন বিজয়ী বেছে নিন ("কোন টিম এটির মালিক?") | পছন্দ (জেতার চাবিকাঠি), সম্ভাবনার ম্যাপ ও কনফিডেন্স |
স্কোর (২–২৫৫ লেভেল) | ক্রমানুসারে সাজানো তালিকায় (0 থেকে K - 1) জরুরি অবস্থা, তীব্রতা বা কোয়ালিটি রেট করুন | স্কোর (ওয়েটেড গড়), লেজেন্ড, সম্ভাবনা ও কনফিডেন্স |
সহজ ভাষায় একটি দ্রুত ওয়াকথ্রু
ধরুন, কোনও গ্রাহক এই মেসেজ পাঠিয়েছেন: "আমার অর্ডার #১৯০২৮ কোথায়? এটি কখন আসবে আমাকে বলতে পারবেন?" একটি API কলে সেই মেসেজে প্রতিটি প্রশ্নের ধরন কীভাবে কাজ করে তা এখানে দেওয়া হল:
- **
noul** (হ্যাঁ / না) — "আমরা কি কোনও মানুষের সাহায্য ছাড়াই অটোমেটিক এর উত্তর দিতে পারি?": আপনি হ্যাঁ/না উত্তর দেওয়া যায় এমন প্রশ্ন পাঠান। ফলাফল হিসেবেnoul = 0.98এবংconfidence = 0.98পাওয়া যায়, যার অর্থ হল ৯৮% সম্ভাবনা আছে যে উত্তরটি "হ্যাঁ" হবে। (উত্তরটি স্পষ্টভাবে "না" হলে, আপনিnoul = 0.02এবংconfidence = 0.98দেখতে পাবেন।) - **
choice** (একটি বিকল্প বেছে নিন) — "কোন টিমের এই মেসেজটি ম্যানেজ করা উচিত?": আপনিorder_status,billing_refund,account_accessওother-এর মতো বিকল্পের একটি নির্দিষ্ট তালিকা পাঠান। এর ফলে, জেতার সম্ভাবনা সবচেয়ে বেশি এমন কী (choice = "order_status"), তার কনফিডেন্স (0.9995) এবং প্রতিটি বিকল্পের ক্ষেত্রে সম্ভাবনার ব্রেকডাউন পাওয়া যায়, যার যোগফল হল1.0। - **
score** (অর্ডার করা স্কেল) — "এই মেসেজটি কতটা জরুরি?": আপনি সর্বনিম্ন (0) থেকে সর্বোচ্চ (3) পর্যন্ত একটি অর্ডার করা স্কেল পাঠান, যেমন["Low", "Medium", "High", "Critical"]। যা ফিরে আসে তা হল0এবং3-এর মধ্যে একটি সম্ভাবনা-ভারিত গড় (রুটিন ট্র্যাকিং প্রশ্নের জন্যscore = 0.15বনাম লাইভ আউটেজের জন্য2.98-এর কাছাকাছি)।
৩. শুরু করার আগে
১. Gemini API Key পান
আপনার ব্রাউজারে Google AI Studio API কী খুলুন, আপনার Google অ্যাকাউন্ট দিয়ে সাইন-ইন করুন এবং একটি API কী তৈরি বা কপি করুন।
২. স্যাম্পেল রিপোজিটরি ক্লোন করা এবং Python সেট-আপ করা
একটি টার্মিনাল খুলুন, কম্প্যানিয়ন রিপোজিটরি gcp-gemini-decisions-hybrid-gateway ক্লোন করুন, একটি ভার্চুয়াল এনভায়রনমেন্ট তৈরি করুন এবং ডিপেন্ডেন্সি ইনস্টল করুন:
git clone https://github.com/rominirani/gcp-gemini-decisions-hybrid-gateway.git
cd gcp-gemini-decisions-hybrid-gateway
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
একই টার্মিনাল সেশনে আপনার GEMINI_API_KEY এক্সপোর্ট করুন:
export GEMINI_API_KEY="YOUR_GEMINI_API_KEY"
৪. উদাহরণ ১: সহায়তা টিকিট রাউট করা
এই প্রথম উদাহরণে, আমরা scripts/quickstart_decisions.py পরীক্ষা করে রান করব, যা একটি API কলে তিনটি প্রশ্নের ধরন—department (choice), can_auto_resolve (noul) এবং urgency (score)—জিজ্ঞাসা করে।
কোডটি ভাল করে দেখে নিন
scripts/quickstart_decisions.py-এর মধ্যে মূল client.decisions.create কল এখানে দেওয়া হল:
from google import genai
client = genai.Client(api_key=api_key, http_options={"api_version": "v1beta"})
result = client.decisions.create(
model="gemini-decision-1",
input=query_text,
questions={
"department": {
"type": "choice",
"instructions": "Which operational queue should handle this customer message?",
"criteria": {
"order_status": "Order tracking, delivery dates, or shipment status.",
"billing_refund": "Duplicate charges, invoices, credits, or refund requests.",
"subscription_cancel": "Canceling or pausing a recurring subscription.",
"account_access": "Password resets, expired 2FA/MFA codes, or login lockouts.",
"complex_incident": "Production outages, HTTP 500 errors, or legal questions.",
"other": "Anything outside these specific categories.",
},
},
"can_auto_resolve": {
"type": "noul",
"instructions": "Can this request be fulfilled deterministically by an automated "
"backend lookup or webhook without custom investigation?",
"criteria": {
"true_description": "Routine single-intent request such as checking tracking.",
"false_description": "Outage, legal question, or ambiguous billing dispute.",
},
},
"urgency": {
"type": "score",
"instructions": "Rate the operational urgency and severity of this message.",
"criteria": [
"Low: Routine informational or tracking question.",
"Medium: Standard account, subscription, or billing request.",
"High: Time-sensitive customer impact or repeated billing failure.",
"Critical: Production-halting outage, data loss risk, or security incident.",
],
},
},
)
dept = result.answers["department"]
auto = result.answers["can_auto_resolve"]
urg = result.answers["urgency"]
# The API returns raw probabilities; our script sets the cutoff for auto-handling (80%):
auto_decision = auto.noul >= 0.80
শেষ লাইনটি (auto.noul >= 0.80) লক্ষ্য করুন: Decisions API নিজে কখনও কাট-অফ হার্ডকোড করে না—এটি র noul সম্ভাবনা (0.01 থেকে 0.99) রিটার্ন করে এবং আপনার Python কোড সিদ্ধান্ত নেয় যে থ্রেশহোল্ড কতটা কঠোর হওয়া উচিত।
রান 1A: অর্ডার ট্র্যাক করা সংক্রান্ত সহজ প্রশ্ন
স্ক্রিপ্টটি তার ডিফল্ট অর্ডার-ট্র্যাকিং প্রশ্ন সহ চালান:
python scripts/quickstart_decisions.py
আপনি এর মতো লাইভ JSON আউটপুট দেখতে পাবেন:
{
"query": "Where is my order #19028? Can you tell me when it arrives?",
"model": "gemini-decision-1",
"latency_ms": 944.61,
"department": {
"choice": "order_status",
"confidence": 0.9995,
"probabilities": {
"billing_refund": 0.0001,
"other": 0.0001,
"complex_incident": 0.0002,
"subscription_cancel": 0.0,
"order_status": 0.9995,
"account_access": 0.0001
}
},
"can_auto_resolve": {
"noul_probability_yes": 0.98,
"confidence": 0.98,
"decision": true
},
"urgency": {
"expected_score_0_to_3": 0.1524,
"top_level": "Low: Routine informational or tracking question.",
"confidence": 0.8717
},
"suggested_action": "DISPATCH_TRACKING_WEBHOOK",
"usage": {
"total_input_tokens": 424,
"total_output_tokens": 0,
"estimated_cost_usd": 4.24e-05
}
}
(মনে রাখবেন: লোকাল ফার্স্ট-কল লেটেন্সিতে আপনার মেশিন থেকে প্রাথমিক TLS কানেকশন সেট-আপ অন্তর্ভুক্ত; us-central1-এ Google Cloud Run-এর মধ্যে ওয়ার্ম রান করার সময়, এই একই কল ~১৫৫–১৯৫ মিলি সেকেন্ডে শেষ হয়।)
রান 1B: যাচাই না করা $১৪০ রিফান্ডের অনুরোধ
এখন কোনও ইনভয়েস অ্যাটাচ না করেই $140 ডুপ্লিকেট-চার্জ সংক্রান্ত দাবি পাস করুন:
python scripts/quickstart_decisions.py \
"I was billed twice ($140 total) on invoice #8812 for one seat. Refund $70 right now."
লাইভ আউটপুট দেখুন:
{
"query": "I was billed twice ($140 total) on invoice #8812 for one seat. Refund $70 right now.",
"model": "gemini-decision-1",
"latency_ms": 602.23,
"department": {
"choice": "billing_refund",
"confidence": 0.9993,
"probabilities": {
"other": 0.0001,
"complex_incident": 0.0,
"order_status": 0.0001,
"billing_refund": 0.9993,
"subscription_cancel": 0.0004,
"account_access": 0.0001
}
},
"can_auto_resolve": {
"noul_probability_yes": 0.4282,
"confidence": 0.5718,
"decision": false
},
"urgency": {
"expected_score_0_to_3": 1.3634,
"top_level": "Medium: Standard account, subscription, or billing request.",
"confidence": 0.5987
},
"suggested_action": "INITIATE_BILLING_WORKFLOW",
"usage": {
"total_input_tokens": 433,
"total_output_tokens": 0,
"estimated_cost_usd": 4.33e-05
}
}
এই দুটি স্বতন্ত্র প্রশ্ন কীভাবে একসাথে কাজ করে তা দেখুন:
- এই টিকিট কোথায় পাঠাতে হবে? (
department = billing_refund,0.9993): গ্রাহক ইনভয়েসের জন্য রিফান্ড চাইছেন, তাইgemini-decision-1৯৯.৯৩% নিশ্চিত যে এটি বিলিং সংক্রান্ত সারিতে রয়েছে। - কোড কি এটি অটোমেটিক এক্সিকিউট করবে? (
can_auto_resolve = 0.4282->decision: false): শুধু টেক্সট দাবির থেকে$70ফিরিয়ে দেওয়ার জন্য যাচাইকরণ প্রয়োজন।0.4282আমাদেরauto.noul >= 0.80কাট-অফের নিচে নেমে যাওয়ায়,decisionআবারfalseহয়ে যায়।
৫. উদাহরণ ২: একটি কলে ৮টি নীতি সংক্রান্ত চেক রান করা
আসল ব্যাকএন্ড অ্যাপ্লিকেশনে, আপনার কোড কোনও ডেটাবেস স্পর্শ করার বা কোনও টুল ট্রিগার করার আগে, ইনকামিং মেসেজের ক্ষেত্রে সাধারণত একাধিক চেকের প্রয়োজন হয়। চ্যাট LLM-এর ক্ষেত্রে, ৮টি আলাদা কল করলে আপনার লেটেন্সি এবং ইনপুট টেক্সটের বিল ৮ গুণ বেড়ে যায়—যদিও একটি বিশাল JSON প্রম্পটে ৮টি নিয়ম যোগ করলে মডেলটি এজ কেস মিস করে।
আসুন, scripts/parallel_guardrails.py পরীক্ষা করে দেখি, যা একটি decisions.create কলে ৮টি স্বতন্ত্র চেক (প্রম্পট ইঞ্জেকশন, কাঁচা PII/গোপনীয়তা, তাৎক্ষণিক-রিফান্ডের যোগ্যতা, চার্জব্যাক হুমকি, টার্গেট সারি, টুল নির্বাচন, মন্থন ঝুঁকি এবং অপব্যবহারের স্তর) মূল্যায়ন করে।
স্ক্রিপ্ট কীভাবে কাজ করে
ধাপ ১: ইনপুট হিসেবে ইভেন্ট মেটাডেটা ও টেক্সট একসাথে পাস করা
input হিসেবে সিরিয়ালাইজ করা JSON ডিকশনারি পাস করলে, gemini-decision-1 ফ্রি-ফর্ম গ্রাহক মেসেজের পাশাপাশি স্ট্রাকচার্ড ফিল্ড (যেমন amount_usd ও order_age_days) চেক করতে পারে—শেয়ার করা পেলোডের জন্য শুধু একবার বিল করা হয়:
event = {
"event_id": "evt-03-clean-refund",
"customer_tier": "PREMIUM",
"order_age_days": 6,
"amount_usd": 34.0,
"message": "Order #77102 arrived yesterday with a cracked mug handle. Could I get a $34 refund?",
}
ধাপ ২: একবারে ৮টি প্রশ্নের উত্তর দিন
আমরা EIGHT_PARALLEL_QUESTIONS-এ ৪টি noul প্রশ্ন, ২টি choice প্রশ্ন এবং ২টি score প্রশ্ন সংজ্ঞায়িত করি এবং একটি কলে সেগুলি পাস করি:
EIGHT_PARALLEL_QUESTIONS = {
"prompt_injection_attempt": { "type": "noul", "instructions": "...", "criteria": {...} },
"contains_raw_pii_or_secrets": { "type": "noul", "instructions": "...", "criteria": {...} },
"eligible_for_instant_refund": {
"type": "noul",
"instructions": "Does this request qualify for instant automated refund under policy "
"(amount <= $50, order_age_days <= 30, clear defect or duplicate)?",
"criteria": {...},
},
"threatens_chargeback_or_legal": { "type": "noul", ... },
"target_queue": { "type": "choice", ... },
"selected_mcp_tool": { "type": "choice", ... },
"churn_risk": { "type": "score", ... }, # 0..3 (Low -> Severe)
"abuse_toxicity": { "type": "score", ... }, # 0..2 (Benign -> Hostile)
}
result = client.decisions.create(
model="gemini-decision-1",
input=json.dumps(event), # Shared input — billed once
questions=EIGHT_PARALLEL_QUESTIONS, # All 8 questions scored in parallel
)
a = result.answers
ধাপ ৩: Python-এ অগ্রাধিকার সংক্রান্ত নিয়মের সাথে উত্তর একত্রিত করা
যেহেতু প্রতিটি প্রশ্ন result.answers-এর মধ্যে নিজস্ব স্বাধীন স্কোর প্রদান করে, তাই আমাদের Python কোড যেকোনও অটোমেটেড রিফান্ডের অনুমতি দেওয়ার আগে প্রথমে নিরাপত্তা সংক্রান্ত ঝুঁকি (প্রম্পট ইঞ্জেকশন এবং ফাঁস হওয়া গোপন তথ্য) চেক করে:
if a["prompt_injection_attempt"].noul >= 0.70:
gate_verdict = "QUARANTINE_ADVERSARIAL_INPUT"
elif a["contains_raw_pii_or_secrets"].noul >= 0.75:
gate_verdict = "REDACT_PII_BEFORE_STORAGE"
elif a["threatens_chargeback_or_legal"].noul >= 0.75 or a["churn_risk"].score >= 2.3:
gate_verdict = "ROUTE_TO_VIP_RETENTION_SPECIALIST"
elif a["eligible_for_instant_refund"].noul >= 0.85 and a["selected_mcp_tool"].confidence >= 0.80:
gate_verdict = "AUTO_EXECUTE_INSTANT_REFUND"
else:
gate_verdict = f"DISPATCH_{a['selected_mcp_tool'].choice.upper()}"
স্ক্রিপ্ট রান করুন
তিনটি স্যাম্পেল মেসেজ টেস্ট করতে scripts/parallel_guardrails.py এক্সিকিউট করুন: একটি প্রম্পট-ইঞ্জেকশন প্রচেষ্টা, ভুলবশত পেস্ট করা sk_live_... API key এবং একটি ক্লিন $34 ড্যামেজড-মগ রিফান্ড:
python scripts/parallel_guardrails.py
তিনটি টেস্ট ইভেন্ট জুড়ে লাইভ আউটপুট পর্যালোচনা করুন:
[
{
"event_id": "evt-01-injection",
"gate_verdict": "QUARANTINE_ADVERSARIAL_INPUT",
"questions_evaluated_in_parallel": 8,
"latency_ms": 626.34,
"signals": {
"prompt_injection_prob": 0.9766,
"raw_pii_prob": 0.0426,
"instant_refund_prob": 0.0275,
"target_queue": "security_trust",
"selected_mcp_tool": "quarantine_security_event"
},
"usage": { "total_input_tokens": 977, "total_output_tokens": 0, "estimated_cost_usd": 9.77e-05 }
},
{
"event_id": "evt-02-pii-leak",
"gate_verdict": "REDACT_PII_BEFORE_STORAGE",
"questions_evaluated_in_parallel": 8,
"latency_ms": 724.48,
"signals": {
"prompt_injection_prob": 0.0548,
"raw_pii_prob": 0.9755,
"instant_refund_prob": 0.0292,
"target_queue": "security_trust",
"selected_mcp_tool": "quarantine_security_event"
},
"usage": { "total_input_tokens": 999, "total_output_tokens": 0, "estimated_cost_usd": 9.99e-05 }
},
{
"event_id": "evt-03-clean-refund",
"gate_verdict": "AUTO_EXECUTE_INSTANT_REFUND",
"questions_evaluated_in_parallel": 8,
"latency_ms": 625.68,
"signals": {
"prompt_injection_prob": 0.0133,
"raw_pii_prob": 0.01,
"instant_refund_prob": 0.9676,
"target_queue": "billing_ops",
"selected_mcp_tool": "issue_instant_credit"
},
"usage": { "total_input_tokens": 987, "total_output_tokens": 0, "estimated_cost_usd": 9.87e-05 }
}
]
৮টি চেক একসাথে মূল্যায়ন করতে ইভেন্ট প্রতি আনুমানিক $০.০০০০৯৯ খরচ হয়, যেখানে ০টি আউটপুট টোকেন থাকে।
৬. উদাহরণ ৩: OCR ছাড়া ফটো ও পিডিএফ চেক করা
সাধারণত, কোনও ব্যবহারকারী যখন অ্যাটাচমেন্ট সহ দাবি জমা দেন—যেমন কোনও সুবিধা পরিদর্শন ফটো বা PDF ইনভয়েস—আপনার ব্যাকএন্ডকে রাউটিং নিয়ম চালানোর আগে টেক্সট এক্সট্র্যাক্ট করার জন্য প্রথমে একটি আলাদা OCR বা ভিশন পাইপলাইন চালাতে হয়। gemini-decision-1 নেটিভ মাল্টিমডেল হওয়ার কারণে, আমরা একটি decisions.create কলে লিখিত দাবি ও র অ্যাটাচমেন্ট দুটিই একসাথে পাঠাতে পারি।
আমরা কী পরীক্ষা করতে চলেছি
scripts/multimodal_triage.py দুটি পরিস্থিতি পরীক্ষা করে—প্রতিটি অ্যাটাচমেন্টের সাথে একটি ছোট লিখিত দাবি পেয়ার করে:
পরিস্থিতি ১: ফেসিলিটি ইনস্পেকশন ফটো (কম বনাম বেশি রেজোলিউশন)
- ব্যবহারকারীর লিখিত দাবি: "সকাল ৯টায় ক্লায়েন্ট মিটিংয়ের আগে ব্রেক রুম কাউন্টার চেক করা। মুছার কাপড়ের পাশে কফি পড়ে আছে।"
অ্যাটাচ করা ফটো (03-multimodal-triage/spill.jpg): হালকা রঙের কাউন্টারে অল্প একটু কফি পড়ে গেছে এবং ঠিক তার পাশেই প্যাটার্ন করা মোছার কাপড় রাখা আছে:

পরিস্থিতি ২: ডুপ্লিকেট-বিল করা PDF ইনভয়েস (র PDF বাইট, জিরো OCR)
- ব্যবহারকারীর লিখিত দাবি: "INV-8812 ইনভয়েসে আমার থেকে $৪৫ দুবার ($৯০ মোট) চার্জ করা হয়েছে। আমার পিডিএফ ইনভয়েস অ্যাটাচ করা আছে।"
03-multimodal-triage/sample_invoice_8812.pdfLine 1: Pro Plan Monthly Subscription ... $45.00এবংLine 2: Pro Plan Monthly Subscription [DUPLICATE] $45.00(মোট$90.00) তালিকাভুক্ত করে ১-পৃষ্ঠার ইনভয়েস।
আমরা কী দেখতে চাই
- স্পিল ফটো (কম বনাম হাই রেজোলিউশন): দুটি রানই ছোট কাউন্টার স্পিল শনাক্ত করবে এবং একই উত্তর দেবে—যদিও
lowরেজোলিউশন অনেক কম ইমেজ টোকেন ব্যবহার করে। - PDF ইনভয়েস (OCR নেই):
sample_invoice_8812.pdfঅ্যাটাচ করলে প্রমাণ হয় যে গ্রাহককে সত্যিই দুবার বিল করা হয়েছে, তাই মডেলের সরাসরি PDF পড়ে রিফান্ড অনুমোদন করা উচিত।
কোডটি ভালভাবে বুঝে নিন
input-এ একটি স্ট্রিং পাস করার পরিবর্তে, scripts/multimodal_triage.py একটি কন্টেন্ট ব্লকের তালিকা পাস করে—যা text ব্লক (\n-এ শেষ হয়) দিয়ে শুরু হয় এবং তারপরে image ব্লক বা document (application/pdf) ব্লক থাকে:
# For Run 1a & 1b: Pass an image URL and set resolution ("low" vs. "high")
image_block = {
"type": "image",
"uri": "https://storage.googleapis.com/generativeai-downloads/images/spill.jpg",
"mime_type": "image/jpeg",
"resolution": "low", # or "high" in Run 1b
}
# For Run 2: Read raw PDF bytes from disk and base64-encode them as a "document" block
# (Note: PDF document blocks do not take a "resolution" setting)
pdf_block = {
"type": "document",
"data": base64.b64encode(pdf_bytes).decode("ascii"),
"mime_type": "application/pdf",
}
result = client.decisions.create(
model="gemini-decision-1",
input=[
{"type": "text", "text": f"Claim Statement: {claim_text}\nAttached Evidence:\n"},
media_block, # either image_block or pdf_block
],
questions=MULTIMODAL_QUESTIONS,
)
resolution="low" এবং resolution="high"-এর মধ্যে টোকেন ব্যবহার তুলনা করতে, স্ক্রিপ্টটি result.usage.input_tokens_by_modality-ও পড়ে, যা ইনপুট টোকেনগুলিকে "text" বনাম "image"-এ বিভক্ত করে।
স্ক্রিপ্ট রান করে ফলাফল চেক করা
python scripts/multimodal_triage.py
তিনটি রান জুড়ে লাইভ JSON আউটপুট পরীক্ষা করুন:
[
{
"experiment": "1a_photo_resolution_low",
"resolution": "low",
"evidence_supports_claim_prob": 0.9532,
"disposition": "local_cleanup_or_self_service",
"disposition_confidence": 0.9863,
"severity_expected_0_to_3": 1.0319,
"tokens_by_modality": { "text": 441, "image": 266 },
"total_input_tokens": 707,
"total_output_tokens": 0,
"estimated_cost_usd": 7.07e-05
},
{
"experiment": "1b_photo_resolution_high",
"resolution": "high",
"evidence_supports_claim_prob": 0.9154,
"disposition": "local_cleanup_or_self_service",
"disposition_confidence": 0.9825,
"severity_expected_0_to_3": 1.0471,
"tokens_by_modality": { "text": 441, "image": 1064 },
"total_input_tokens": 1505,
"total_output_tokens": 0,
"estimated_cost_usd": 0.0001505
},
{
"experiment": "2_pdf_duplicate_invoice_zero_ocr",
"resolution": null,
"latency_ms": 676.98,
"evidence_supports_claim_prob": 0.9578,
"disposition": "automated_credit_or_replacement",
"disposition_confidence": 0.9367,
"severity_expected_0_to_3": 1.9849,
"tokens_by_modality": { "text": 587, "image": 520 },
"total_input_tokens": 1107,
"total_output_tokens": 0,
"estimated_cost_usd": 0.0001107
}
]
আউটপুট থেকে দুটি মূল পয়েন্ট:
lowরেজোলিউশন ৪ গুণ কম ইমেজ টোকেন ব্যবহার করেছে (২৬৬ বনাম ১,০৬৪): দু'বারই একদম একই উত্তর পাওয়া গেছে (local_cleanup_or_self_service, >৯৮% কনফিডেন্স সহ)। ছোট টেক্সট বা ফাইন প্রিন্টের জন্য"high"বা"ultra_high"সেভ করুন।- PDF ইনভয়েস শূন্য OCR সহ রিফান্ড অনুমোদন করেছে:
sample_invoice_8812.pdfঅ্যাটাচ করা সহ,evidence_supports_claim_probথেকে0.9578-এ জাম্প করেছে এবং মডেল ~৬৭৭ মিলিসেকেন্ডেautomated_credit_or_replacementবেছে নিয়েছে।
৭. অভিনন্দন
অভিনন্দন! আপনি Gemini Decisions API ( ব্যবহার করেছেন
gemini-decision-1
) ব্যবহার করে ক্যালিব্রেট করা সম্ভাবনার সাথে সহায়তা টিকিট রুট করতে, একটি পাসে ৮টি স্বতন্ত্র নিরাপত্তা ও নীতি সংক্রান্ত গার্ডরেল চালাতে এবং আলাদা OCR ধাপ ছাড়াই ফটো ও পিডিএফ ইনভয়েস যাচাই করতে পারবেন, সবই জিরো আউটপুট টোকেন সহ।
আপনি আরও এগিয়ে যেতে চাইলে, কম্প্যানিয়ন রিপোজিটরিতে অতিরিক্ত ফোল্ডারগুলি দেখুন—এর মধ্যে রয়েছে 02-hybrid-gateway/ (একটি দ্রুত Cloud Run পরিষেবা ডিপ্লয় করা যা জটিল টিকিট gemini-3.8-flash-এর কাছে হস্তান্তর করে) এবং 06-adk-workflows/ (Google ADK 2.0 ওয়ার্কফ্লোর সাথে Decisions API একত্রিত করা)।
রেফারেন্স ডকুমেন্ট
- অফিসিয়াল লঞ্চ পোস্ট: Gemini Decisions API-এর মাধ্যমে সীমিত বিকল্পের মধ্যে থেকে দ্রুত সিদ্ধান্ত নেওয়া
- ডেভেলপার ডকুমেন্টেশন: Gemini Decisions API গাইড (Google AI for Developers)
- ইন্টার্যাক্টিভ প্লেগ্রাউন্ড: Google AI Studio-তে Gemini Decision 1 ব্যবহার করে দেখুন
- স্যাম্পেল কোড রিপোজিটরি: https://github.com/rominirani/gcp-gemini-decisions-hybrid-gateway