1. Wprowadzenie
Większość oprogramowania backendowego nie potrzebuje modelu AI do pisania akapitów, ale szybkiej, wiarygodnej odpowiedzi na konkretne pytanie: tak czy nie? Który zespół pomocy zajmuje się tym zgłoszeniem? Jak pilna jest ta sprawa?
Wczesne dedykowane klasyfikatory, takie jak Jev firmy TypeSafe AI, wzbudziły ostatnio zainteresowanie deweloperów modelami „tak/nie”, pokazując, co się dzieje, gdy zrezygnujesz z powolnego generowania JSON token po tokenie i będziesz oceniać decyzje w zamkniętym zbiorze w jednym przebiegu.
Gemini Decisions API od Google DeepMind (oparty na gemini-decision-1) wprowadza tę funkcję natywnie do pakietu SDK google-genai, umożliwiając ocenę do 1000 pytań typu yes/no (noul), jednokrotnego wyboru (choice) i skali uporządkowanej (score) w jednym przebiegu ze skalibrowanymi prawdopodobieństwami, zerową liczbą tokenów wyjściowych i wbudowaną obsługą multimodalną w przypadku tekstu, zdjęć, dźwięku, wideo i plików PDF.
Jakie zadania wykonasz
- Skonfiguruj lokalne środowisko Pythona i połącz się z
gemini-decision-1za pomocą klucza interfejsu API Google AI Studio. - Uruchom przykładowe programy, od przekierowywania zgłoszeń, przez reguły bezpieczeństwa, po podejmowanie decyzji na podstawie danych multimodalnych, które pomogą Ci zrozumieć interfejs Gemini Decisions API.
Czego się nauczysz
- Dlaczego proszenie LLM o JSON powoduje problemy z opóźnieniem, kosztami, analizą i pewnością w przypadku prostych decyzji dotyczących routingu.
- Jak 3 typy pytań:
noul(tak/nie),choice(wybierz jedną opcję) iscore(uporządkowana skala) współdziałają ze sobą w ramach jednego wywołaniaclient.decisions.create. - Jak kontrolować wykorzystanie tokenów multimodalnych za pomocą
resolutioni sprawdzać wykorzystanie za pomocąinput_tokens_by_modality.
Czego potrzebujesz
- Python 3.11 lub nowszy oraz
gitzainstalowane na komputerze (lub w Google Cloud Shell). - Klucz interfejsu Gemini API z Google AI Studio (w przypadku tego ćwiczenia nie jest wymagana konfiguracja projektu Google Cloud).
2. Informacje o Gemini Decisions API
Why Asking a Chat LLM for JSON Slows Down Backends
Duże modele językowe do czatów zostały stworzone do prowadzenia rozmów z ludźmi. Gdy prosisz asystenta o napisanie e-maila lub wyjaśnienie błędu, odczekanie kilku sekund, aż słowa pojawią się na ekranie, wydaje się całkowicie naturalne.
Problemy zaczynają się, gdy usługi backendu używają tego samego przepływu pracy czatu, aby szybko podjąć decyzję o przekierowaniu, np. gdzie wysłać pytanie „Gdzie jest moje zamówienie nr 19028?” lub czy można bezpiecznie zrealizować je automatycznie.
Używanie modeli czatu w tych przypadkach powoduje, że odpowiedzi są zbyt wolne, kosztowne i przede wszystkim niestabilne, co sprawia, że agenci nie mają pewności, czy podjąć określone działanie lub pójść w określonym kierunku.
Jak działa gemini-decision-1
Zamiast generować wygenerowany tekst reklamy token po tokenie, gemini-decision-1 odczytuje dane wejściowe raz i ocenia wszystkie pytania w jednym przebiegu, zwracając bezpośrednio skalibrowane prawdopodobieństwa.

- Brak tokenów wyjściowych (0,10 USD za 1 mln tokenów wejściowych, 0 USD za tokeny wyjściowe): ponieważ model nigdy nie generuje tekstu ani tokenów myślenia,
total_output_tokenszawsze wynosi0. Udostępniony modelinputjest rozliczany raz na wywołanie, niezależnie od liczby dołączonych pytań. - Obliczenia modelu w 50–100 ms: bez generowania token po tokenie obliczenia modelu pozostają szybkie i przewidywalne, nawet gdy zadasz 10, 50 lub 100 pytań w jednym żądaniu.
- Multimodal Out of the Box: ocenia tekst, obrazy, dźwięk, filmy i dokumenty PDF razem w oknie kontekstu o rozmiarze 262 144 tokenów, z ustawieniem
resolution(low,medium,high,ultra_high) w przypadku obrazów i filmów, aby kontrolować wykorzystanie tokenów.
Trzy typy pytań (noul, choice, score)
Każde wywołanie funkcji client.decisions.create przyjmuje słownik questions, w którym każde pytanie używa jednego z 3 typów:
Typ | Kiedy warto z niej korzystać | What Comes Back |
noul (Yes / No) | sprawdzanie, czy stwierdzenie jest prawdziwe („Czy to jest wstrzykiwanie promptów?”); | noul (prawdopodobieństwo „tak” w zakresie [0,01, 0,99]) i ufność |
choice (2–255 opcji) | Wybierz 1 zwycięzcę ze stałego słownika („Który zespół jest właścicielem?”). | wybór (klucz wygrywający), mapę prawdopodobieństwa i poziom ufności. |
score (2–255 levels) | Ocena pilności, ważności lub jakości na liście uporządkowanej (od 0 do K – 1) | wynik (średnia ważona), legenda, prawdopodobieństwa i ufność; |
Krótki przewodnik
Wyobraź sobie, że klient wysyła taką wiadomość: „Gdzie jest moje zamówienie nr 19028? Czy możesz mi powiedzieć, kiedy dotrze?” Oto jak działa każdy typ pytania w tej wiadomości w jednym wywołaniu interfejsu API:
- **
noul** (Tak/Nie) – „Czy możemy odpowiedzieć na to pytanie automatycznie, bez udziału człowieka?”: Wysyłasz pytanie, na które można odpowiedzieć „tak” lub „nie”. Zwracane są wartościnoul = 0.98iconfidence = 0.98, co oznacza, że istnieje 98% prawdopodobieństwa, że odpowiedź brzmi „tak”. (Jeśli odpowiedź brzmi „nie”, zobaczysznoul = 0.02iconfidence = 0.98). - **
choice** (Pick One Option) – "Which team should handle this message?": Wysyłasz stałą listę opcji, takich jakorder_status,billing_refund,account_accessiother. Zwracany jest klucz zwycięski (choice = "order_status"), jego poziom ufności (0.9995) i rozkład prawdopodobieństwa dla wszystkich opcji, który sumuje się do1.0. - **
score** (Ordered Scale) – „How urgent is this message?”: Wysyłasz uporządkowaną skalę od najniższej (0) do najwyższej (3), np.["Low", "Medium", "High", "Critical"]. Zwracana jest średnia ważona prawdopodobieństwa z zakresu od0do3(score = 0.15w przypadku rutynowego pytania dotyczącego śledzenia i blisko2.98w przypadku bieżącej przerwy w działaniu usługi).
3. Zanim zaczniesz
1. Uzyskiwanie klucza interfejsu Gemini API
Otwórz Klucze interfejsu API Google AI Studio w przeglądarce, zaloguj się na swoje konto Google i utwórz lub skopiuj klucz interfejsu API.
2. Sklonowanie przykładowego repozytorium i skonfigurowanie Pythona
Otwórz terminal, sklonuj repozytorium towarzyszące gcp-gemini-decisions-hybrid-gateway, utwórz środowisko wirtualne i zainstaluj zależności:
git clone https://github.com/rominirani/gcp-gemini-decisions-hybrid-gateway.git
cd gcp-gemini-decisions-hybrid-gateway
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
Wyeksportuj GEMINI_API_KEY w tej samej sesji terminala:
export GEMINI_API_KEY="YOUR_GEMINI_API_KEY"
4. Przykład 1. Przekierowywanie zgłoszeń do zespołu pomocy
W tym pierwszym przykładzie sprawdzimy i uruchomimy scripts/quickstart_decisions.py, który zadaje wszystkie 3 typy pytań – department (choice), can_auto_resolve (noul) i urgency (score) – w jednym wywołaniu interfejsu API.
Sprawdzanie kodu
Oto podstawowe wywołanie client.decisions.create w scripts/quickstart_decisions.py:
from google import genai
client = genai.Client(api_key=api_key, http_options={"api_version": "v1beta"})
result = client.decisions.create(
model="gemini-decision-1",
input=query_text,
questions={
"department": {
"type": "choice",
"instructions": "Which operational queue should handle this customer message?",
"criteria": {
"order_status": "Order tracking, delivery dates, or shipment status.",
"billing_refund": "Duplicate charges, invoices, credits, or refund requests.",
"subscription_cancel": "Canceling or pausing a recurring subscription.",
"account_access": "Password resets, expired 2FA/MFA codes, or login lockouts.",
"complex_incident": "Production outages, HTTP 500 errors, or legal questions.",
"other": "Anything outside these specific categories.",
},
},
"can_auto_resolve": {
"type": "noul",
"instructions": "Can this request be fulfilled deterministically by an automated "
"backend lookup or webhook without custom investigation?",
"criteria": {
"true_description": "Routine single-intent request such as checking tracking.",
"false_description": "Outage, legal question, or ambiguous billing dispute.",
},
},
"urgency": {
"type": "score",
"instructions": "Rate the operational urgency and severity of this message.",
"criteria": [
"Low: Routine informational or tracking question.",
"Medium: Standard account, subscription, or billing request.",
"High: Time-sensitive customer impact or repeated billing failure.",
"Critical: Production-halting outage, data loss risk, or security incident.",
],
},
},
)
dept = result.answers["department"]
auto = result.answers["can_auto_resolve"]
urg = result.answers["urgency"]
# The API returns raw probabilities; our script sets the cutoff for auto-handling (80%):
auto_decision = auto.noul >= 0.80
Zwróć uwagę na ostatni wiersz (auto.noul >= 0.80): interfejs Decisions API nigdy nie koduje na stałe wartości granicznej – zwraca nieprzetworzone prawdopodobieństwo noul (od 0.01 do 0.99), a kod w Pythonie decyduje o tym, jak rygorystyczny powinien być próg.
Uruchomienie 1A: proste pytanie dotyczące śledzenia zamówienia
Uruchom skrypt z domyślnym pytaniem dotyczącym śledzenia zamówienia:
python scripts/quickstart_decisions.py
Zobaczysz dane wyjściowe JSON podobne do tych:
{
"query": "Where is my order #19028? Can you tell me when it arrives?",
"model": "gemini-decision-1",
"latency_ms": 944.61,
"department": {
"choice": "order_status",
"confidence": 0.9995,
"probabilities": {
"billing_refund": 0.0001,
"other": 0.0001,
"complex_incident": 0.0002,
"subscription_cancel": 0.0,
"order_status": 0.9995,
"account_access": 0.0001
}
},
"can_auto_resolve": {
"noul_probability_yes": 0.98,
"confidence": 0.98,
"decision": true
},
"urgency": {
"expected_score_0_to_3": 0.1524,
"top_level": "Low: Routine informational or tracking question.",
"confidence": 0.8717
},
"suggested_action": "DISPATCH_TRACKING_WEBHOOK",
"usage": {
"total_input_tokens": 424,
"total_output_tokens": 0,
"estimated_cost_usd": 4.24e-05
}
}
(Uwaga: lokalny czas oczekiwania na pierwsze wywołanie obejmuje początkową konfigurację połączenia TLS z Twojego komputera. Gdy wywołanie jest uruchamiane w Google Cloud Run w us-central1, kończy się w ciągu ok. 155–195 ms).
Run 1B: Unverified $140 Refund Request
Teraz przekaż zgłoszenie podwójnego obciążenia $140 bez załączonej faktury:
python scripts/quickstart_decisions.py \
"I was billed twice ($140 total) on invoice #8812 for one seat. Refund $70 right now."
Sprawdź dane wyjściowe:
{
"query": "I was billed twice ($140 total) on invoice #8812 for one seat. Refund $70 right now.",
"model": "gemini-decision-1",
"latency_ms": 602.23,
"department": {
"choice": "billing_refund",
"confidence": 0.9993,
"probabilities": {
"other": 0.0001,
"complex_incident": 0.0,
"order_status": 0.0001,
"billing_refund": 0.9993,
"subscription_cancel": 0.0004,
"account_access": 0.0001
}
},
"can_auto_resolve": {
"noul_probability_yes": 0.4282,
"confidence": 0.5718,
"decision": false
},
"urgency": {
"expected_score_0_to_3": 1.3634,
"top_level": "Medium: Standard account, subscription, or billing request.",
"confidence": 0.5987
},
"suggested_action": "INITIATE_BILLING_WORKFLOW",
"usage": {
"total_input_tokens": 433,
"total_output_tokens": 0,
"estimated_cost_usd": 4.33e-05
}
}
Zobacz, jak te 2 niezależne pytania ze sobą współpracują:
- Gdzie powinno trafić to zgłoszenie? (
department = billing_refund,0.9993): klient prosi o zwrot środków za fakturę, więcgemini-decision-1ma 99,93% pewności, że zgłoszenie należy do kolejki Płatności. - Czy kod powinien wykonywać się automatycznie? (
can_auto_resolve = 0.4282->decision: false): Handing back$70from a text claim alone needs verification. Ponieważ wartość0.4282jest niższa od wartości granicznejauto.noul >= 0.80, wartośćdecisionwynosifalse.
5. Przykład 2. Przeprowadzanie 8 testów zasad w jednym wywołaniu
W prawdziwych aplikacjach backendowych wiadomość przychodząca zwykle wymaga więcej niż jednej kontroli, zanim kod wejdzie w interakcję z bazą danych lub uruchomi narzędzie. W przypadku LLM do czatu wykonanie 8 oddzielnych wywołań zwiększa opóźnienie i powoduje 8-krotne naliczenie opłaty za tekst wejściowy, a umieszczenie 8 reguł w jednym gigantycznym prompcie JSON sprawia, że model pomija przypadki skrajne.
Przyjrzyjmy się funkcji scripts/parallel_guardrails.py, która ocenia 8 niezależnych testów (wstrzykiwanie promptów, nieprzetworzone informacje umożliwiające identyfikację / tajne informacje, możliwość ubiegania się o natychmiastowy zwrot środków, zagrożenia związane z obciążeniem zwrotnym, docelowa kolejka, wybór narzędzia, ryzyko rezygnacji i poziom nadużyć) w jednym wywołaniu decisions.create.
Jak działa skrypt
Krok 1. Przekaż metadane zdarzenia i tekst jako dane wejściowe
Przekazanie zserializowanego słownika JSON jako input umożliwia gemini-decision-1 sprawdzanie pól uporządkowanych (takich jak amount_usd i order_age_days) wraz z wiadomością klienta w dowolnym formacie. Opłata za udostępniony ładunek jest naliczana tylko raz:
event = {
"event_id": "evt-03-clean-refund",
"customer_tier": "PREMIUM",
"order_age_days": 6,
"amount_usd": 34.0,
"message": "Order #77102 arrived yesterday with a cracked mug handle. Could I get a $34 refund?",
}
Krok 2. Oceń wszystkie 8 pytań za jednym razem
Definiujemy 4 pytania noul, 2 pytania choice i 2 pytania score w EIGHT_PARALLEL_QUESTIONS i przekazujemy je w jednym wywołaniu:
EIGHT_PARALLEL_QUESTIONS = {
"prompt_injection_attempt": { "type": "noul", "instructions": "...", "criteria": {...} },
"contains_raw_pii_or_secrets": { "type": "noul", "instructions": "...", "criteria": {...} },
"eligible_for_instant_refund": {
"type": "noul",
"instructions": "Does this request qualify for instant automated refund under policy "
"(amount <= $50, order_age_days <= 30, clear defect or duplicate)?",
"criteria": {...},
},
"threatens_chargeback_or_legal": { "type": "noul", ... },
"target_queue": { "type": "choice", ... },
"selected_mcp_tool": { "type": "choice", ... },
"churn_risk": { "type": "score", ... }, # 0..3 (Low -> Severe)
"abuse_toxicity": { "type": "score", ... }, # 0..2 (Benign -> Hostile)
}
result = client.decisions.create(
model="gemini-decision-1",
input=json.dumps(event), # Shared input — billed once
questions=EIGHT_PARALLEL_QUESTIONS, # All 8 questions scored in parallel
)
a = result.answers
Krok 3. Połącz odpowiedzi z regułami priorytetów w Pythonie
Każde pytanie zwraca w result.answers własny, niezależny wynik, dlatego nasz kod w Pythonie najpierw sprawdza zagrożenia bezpieczeństwa (wstrzykiwanie promptów i wyciek tajnych danych), zanim zezwoli na automatyczny zwrot środków:
if a["prompt_injection_attempt"].noul >= 0.70:
gate_verdict = "QUARANTINE_ADVERSARIAL_INPUT"
elif a["contains_raw_pii_or_secrets"].noul >= 0.75:
gate_verdict = "REDACT_PII_BEFORE_STORAGE"
elif a["threatens_chargeback_or_legal"].noul >= 0.75 or a["churn_risk"].score >= 2.3:
gate_verdict = "ROUTE_TO_VIP_RETENTION_SPECIALIST"
elif a["eligible_for_instant_refund"].noul >= 0.85 and a["selected_mcp_tool"].confidence >= 0.80:
gate_verdict = "AUTO_EXECUTE_INSTANT_REFUND"
else:
gate_verdict = f"DISPATCH_{a['selected_mcp_tool'].choice.upper()}"
Uruchamianie skryptu
Wykonaj polecenie scripts/parallel_guardrails.py, aby przetestować 3 przykładowe wiadomości: próbę wstrzyknięcia promptu, przypadkowo wklejony klucz interfejsu API sk_live_... i czysty zwrot środków za uszkodzony kubek $34:
python scripts/parallel_guardrails.py
Sprawdź dane wyjściowe na żywo we wszystkich 3 zdarzeniach testowych:
[
{
"event_id": "evt-01-injection",
"gate_verdict": "QUARANTINE_ADVERSARIAL_INPUT",
"questions_evaluated_in_parallel": 8,
"latency_ms": 626.34,
"signals": {
"prompt_injection_prob": 0.9766,
"raw_pii_prob": 0.0426,
"instant_refund_prob": 0.0275,
"target_queue": "security_trust",
"selected_mcp_tool": "quarantine_security_event"
},
"usage": { "total_input_tokens": 977, "total_output_tokens": 0, "estimated_cost_usd": 9.77e-05 }
},
{
"event_id": "evt-02-pii-leak",
"gate_verdict": "REDACT_PII_BEFORE_STORAGE",
"questions_evaluated_in_parallel": 8,
"latency_ms": 724.48,
"signals": {
"prompt_injection_prob": 0.0548,
"raw_pii_prob": 0.9755,
"instant_refund_prob": 0.0292,
"target_queue": "security_trust",
"selected_mcp_tool": "quarantine_security_event"
},
"usage": { "total_input_tokens": 999, "total_output_tokens": 0, "estimated_cost_usd": 9.99e-05 }
},
{
"event_id": "evt-03-clean-refund",
"gate_verdict": "AUTO_EXECUTE_INSTANT_REFUND",
"questions_evaluated_in_parallel": 8,
"latency_ms": 625.68,
"signals": {
"prompt_injection_prob": 0.0133,
"raw_pii_prob": 0.01,
"instant_refund_prob": 0.9676,
"target_queue": "billing_ops",
"selected_mcp_tool": "issue_instant_credit"
},
"usage": { "total_input_tokens": 987, "total_output_tokens": 0, "estimated_cost_usd": 9.87e-05 }
}
]
Ocena wszystkich 8 testów razem kosztuje około 0,000099 USD za zdarzenie z 0 tokenami wyjściowymi.
6. Przykład 3. Sprawdzanie zdjęć i plików PDF bez OCR
Zwykle, gdy użytkownik przesyła roszczenie z załącznikiem, takim jak zdjęcie z kontroli placówki lub faktura w formacie PDF, backend musi najpierw uruchomić oddzielny proces OCR lub przetwarzania obrazu, aby wyodrębnić tekst, zanim będzie można uruchomić reguły kierowania. gemini-decision-1 jest natywnie multimodalny, więc możemy wysłać zarówno pisemne roszczenie, jak i nieprzetworzony załącznik w jednym wywołaniu decisions.create.
Co będziemy testować
scripts/multimodal_triage.py testuje 2 scenariusze, z których każdy łączy krótkie pisemne roszczenie z załącznikiem:
Scenariusz 1. Zdjęcie z kontroli obiektu (niska i wysoka rozdzielczość)
- Pisemne oświadczenie użytkownika: „Sprawdzenie licznika w pokoju socjalnym przed spotkaniem z klientem o 9:00. Mała plama po kawie obok ściereczki”.
Załączone zdjęcie (03-multimodal-triage/spill.jpg): przedstawia niewielką plamę po kawie na jasnym blacie, obok której leży wzorzysta ściereczka:

Scenariusz 2. Faktura PDF zduplikowana (nieprzetworzone bajty PDF, brak OCR)
- Pisemne zgłoszenie użytkownika: „Na fakturze INV-8812 dwukrotnie naliczono mi opłatę w wysokości 45 USD (łącznie 90 USD). W załączniku przesyłam fakturę w formacie PDF”.
- Załączony plik PDF (
03-multimodal-triage/sample_invoice_8812.pdf): jednostronicowa faktura zawierającaLine 1: Pro Plan Monthly Subscription ... $45.00iLine 2: Pro Plan Monthly Subscription [DUPLICATE] $45.00(łącznie$90.00).
Czego oczekujemy
- Zdjęcie rozlanego płynu (niska i wysoka rozdzielczość): w obu przypadkach model powinien zauważyć niewielką plamę na blacie i podać tę samą odpowiedź, ale w rozdzielczości
lowużywa znacznie mniejszej liczby tokenów obrazu. - Faktura w formacie PDF (bez OCR): załączenie dokumentu
sample_invoice_8812.pdfpotwierdza, że klient został obciążony dwukrotnie, więc model powinien odczytać plik PDF bezpośrednio i zatwierdzić zwrot środków.
Analiza kodu
Zamiast przekazywać do input pojedynczy ciąg znaków, scripts/multimodal_triage.py przekazuje listę bloków treści – zaczynając od bloku text (kończącego się na \n), po którym następuje blok image lub document (application/pdf):
# For Run 1a & 1b: Pass an image URL and set resolution ("low" vs. "high")
image_block = {
"type": "image",
"uri": "https://storage.googleapis.com/generativeai-downloads/images/spill.jpg",
"mime_type": "image/jpeg",
"resolution": "low", # or "high" in Run 1b
}
# For Run 2: Read raw PDF bytes from disk and base64-encode them as a "document" block
# (Note: PDF document blocks do not take a "resolution" setting)
pdf_block = {
"type": "document",
"data": base64.b64encode(pdf_bytes).decode("ascii"),
"mime_type": "application/pdf",
}
result = client.decisions.create(
model="gemini-decision-1",
input=[
{"type": "text", "text": f"Claim Statement: {claim_text}\nAttached Evidence:\n"},
media_block, # either image_block or pdf_block
],
questions=MULTIMODAL_QUESTIONS,
)
Aby porównać wykorzystanie tokenów między resolution="low" i resolution="high", skrypt odczytuje też result.usage.input_tokens_by_modality, który dzieli tokeny wejściowe na "text" i "image".
Uruchamianie skryptu i sprawdzanie wyników
python scripts/multimodal_triage.py
Sprawdź dane wyjściowe JSON na żywo we wszystkich 3 uruchomieniach:
[
{
"experiment": "1a_photo_resolution_low",
"resolution": "low",
"evidence_supports_claim_prob": 0.9532,
"disposition": "local_cleanup_or_self_service",
"disposition_confidence": 0.9863,
"severity_expected_0_to_3": 1.0319,
"tokens_by_modality": { "text": 441, "image": 266 },
"total_input_tokens": 707,
"total_output_tokens": 0,
"estimated_cost_usd": 7.07e-05
},
{
"experiment": "1b_photo_resolution_high",
"resolution": "high",
"evidence_supports_claim_prob": 0.9154,
"disposition": "local_cleanup_or_self_service",
"disposition_confidence": 0.9825,
"severity_expected_0_to_3": 1.0471,
"tokens_by_modality": { "text": 441, "image": 1064 },
"total_input_tokens": 1505,
"total_output_tokens": 0,
"estimated_cost_usd": 0.0001505
},
{
"experiment": "2_pdf_duplicate_invoice_zero_ocr",
"resolution": null,
"latency_ms": 676.98,
"evidence_supports_claim_prob": 0.9578,
"disposition": "automated_credit_or_replacement",
"disposition_confidence": 0.9367,
"severity_expected_0_to_3": 1.9849,
"tokens_by_modality": { "text": 587, "image": 520 },
"total_input_tokens": 1107,
"total_output_tokens": 0,
"estimated_cost_usd": 0.0001107
}
]
Dwa szybkie wnioski z wyników:
lowrozdzielczość wykorzystała 4 razy mniej tokenów obrazu (266 vs 1064): oba uruchomienia dały dokładnie tę samą odpowiedź (local_cleanup_or_self_servicez >98% pewnością). Zapisz"high"lub"ultra_high"w przypadku małego tekstu lub drobnego druku.- Faktura PDF zatwierdziła zwrot środków bez użycia OCR: po dołączeniu
sample_invoice_8812.pdfevidence_supports_claim_probprzeskoczył do0.9578, a model wybrałautomated_credit_or_replacementw około 677 ms.
7. Gratulacje
Gratulacje! Używasz interfejsu Gemini Decisions API (
gemini-decision-1
) w Pythonie, aby przekierowywać zgłoszenia do zespołu pomocy ze skalibrowanym prawdopodobieństwem, uruchamiać 8 niezależnych zabezpieczeń i zasad w jednym przebiegu oraz weryfikować zdjęcia i faktury w formacie PDF bez osobnego kroku OCR – wszystko to przy użyciu 0 tokenów wyjściowych.
Gdy będziesz gotowy(-a) na dalsze kroki, zapoznaj się z dodatkowymi folderami w repozytorium towarzyszącym, w tym 02-hybrid-gateway/ (wdrażanie szybkiej usługi Cloud Run, która przekazuje złożone zgłoszenia do gemini-3.8-flash) i 06-adk-workflows/ (łączenie interfejsu Decisions API z przepływami pracy Google ADK 2.0).
Dokumentacja referencyjna
- Oficjalny post dotyczący premiery: Szybkie podejmowanie decyzji w ograniczonym zakresie dzięki interfejsowi Gemini Decisions API
- Dokumentacja dla deweloperów: Przewodnik po interfejsie Gemini Decisions API (AI od Google dla deweloperów)
- Interaktywne środowisko: wypróbuj Gemini Decision 1 w Google AI Studio
- Repozytorium przykładowego kodu: https://github.com/rominirani/gcp-gemini-decisions-hybrid-gateway