स्पैनर वेक्टर खोज के साथ शुरुआत करना

1. परिचय

Spanner एक पूरी तरह से मैनेज की गई, हॉरिज़ॉन्टल तौर पर बढ़ाने लायक, दुनिया भर में डिस्ट्रिब्यूट की जाने वाली डेटाबेस सेवा है. यह रिलेशनल और नॉन-रिलेशनल ऑपरेशनल वर्कलोड के लिए बेहतरीन है.

Spanner में वेक्टर सर्च की सुविधा पहले से मौजूद होती है. इससे आपको जेन एआई ऐप्लिकेशन में, बड़े पैमाने पर समानता या सिमैंटिक सर्च करने और रिट्रीवल ऑगमेंटेड जनरेशन (आरएजी) को लागू करने में मदद मिलती है. इसके लिए, K-आस-पास के K-आस-पास के K-NN या आस-पास के आस-पास के पड़ोसी (ANN) की सुविधाओं का इस्तेमाल किया जा सकता है.

लेन-देन के पूरा होते ही, स्पैनर की वेक्टर खोज क्वेरी नया रीयल-टाइम डेटा दिखाती है. यह बिलकुल आपके ऑपरेशनल डेटा से जुड़ी किसी दूसरी क्वेरी की तरह होता है.

इस लैब में, आपको उन बुनियादी सुविधाओं को सेट अप करने के बारे में जानकारी मिलेगी जो वेक्टर सर्च करने के लिए स्पैनर का इस्तेमाल करने में होती हैं. साथ ही, एसक्यूएल का इस्तेमाल करके VertexAI के मॉडल गार्डन से एम्बेडिंग और एलएलएम मॉडल को ऐक्सेस करने के बारे में भी बताया जाएगा.

आर्किटेक्चर कुछ ऐसा दिखेगा:

ध्यान दें: यह लैब, डायग्राम के दाएं हिस्से पर फ़ोकस करता है. इसलिए, सिर्फ़ स्पैनर इंस्टेंस और VertexAI इंटिग्रेशन को डिप्लॉय किया जा सकेगा.

इस आधार पर, आपको ScaNN एल्गोरिदम की मदद से वेक्टर इंडेक्स बनाने का तरीका पता चलेगा. साथ ही, सिमैंटिक वर्कलोड को स्केल करने की ज़रूरत होने पर, APPROX दूरी फ़ंक्शन का इस्तेमाल करने का तरीका भी पता चलेगा.

आपको क्या बनाना होगा

इस लैब का हिस्सा होने के नाते, आपको:

• स्पैनर इंस्टेंस बनाना
• VertexAI में एम्बेडिंग और एलएलएम मॉडल के साथ इंटिग्रेट करने के लिए, स्पैनर का डेटाबेस स्कीमा सेट अप करें
• खुदरा डेटा सेट लोड करें
• डेटासेट के मुकाबले, समानता वाली खोज क्वेरी से जुड़ी समस्या हल करें
• प्रॉडक्ट से जुड़े सुझाव जनरेट करने के लिए, एलएलएम मॉडल के बारे में जानकारी दें.
• स्कीमा में बदलाव करें और वेक्टर इंडेक्स बनाएं.
• नए वेक्टर इंडेक्स का फ़ायदा पाने के लिए, क्वेरी में बदलाव करें.

आप इन चीज़ों के बारे में जानेंगे

• स्पैनर इंस्टेंस सेटअप करने का तरीका
• VertexAI के साथ इंटिग्रेट करने का तरीका
• किसी खुदरा डेटासेट में मिलते-जुलते आइटम ढूंढने के लिए, वेक्टर खोज करने के लिए स्पैनर का इस्तेमाल करने का तरीका
• ANN खोज का इस्तेमाल करके, वेक्टर खोज के वर्कलोड को स्केल करने के लिए अपने डेटाबेस को तैयार करने का तरीका.

आपको इनकी ज़रूरत होगी

• यह ऐसा Google Cloud प्रोजेक्ट है जो किसी बिलिंग खाते से जुड़ा होता है.
• कोई वेब ब्राउज़र, जैसे कि Chrome या Firefox.

2. सेटअप और ज़रूरी शर्तें

प्रोजेक्ट बनाना

अगर आपके पास पहले से Google खाता (Gmail या Google Apps) नहीं है, तो एक खाता बनाएं. Google Cloud Platform कंसोल ( console.cloud.google.com) में साइन इन करें और एक नया प्रोजेक्ट बनाएं.

अगर आपके पास पहले से कोई प्रोजेक्ट है, तो कंसोल के ऊपर बाईं ओर मौजूद, प्रोजेक्ट चुनने के लिए पुल डाउन मेन्यू पर क्लिक करें:

और 'नया प्रोजेक्ट' पर क्लिक करें बटन:

अगर आपके पास पहले से कोई प्रोजेक्ट नहीं है, तो आपको अपना पहला प्रोजेक्ट बनाने के लिए इस तरह का डायलॉग दिखेगा:

इसके बाद, प्रोजेक्ट बनाने वाले डायलॉग बॉक्स की मदद से अपने नए प्रोजेक्ट की जानकारी डाली जा सकती है:

वह प्रोजेक्ट आईडी याद रखें जो Google Cloud के सभी प्रोजेक्ट के लिए एक यूनीक नाम होता है. ऊपर दिया गया नाम पहले ही किसी दूसरे प्रोजेक्ट के लिए इस्तेमाल किया जा चुका है. इसलिए, यह आपके लिए काम नहीं करेगा! बाद में, इस कोडलैब में इसे PROJECT_ID के तौर पर दिखाया जाएगा.

इसके बाद, अगर आपने पहले से ऐसा नहीं किया है, तो आपको Google Cloud के संसाधनों का इस्तेमाल करने के लिए, Developers Console में बिलिंग चालू करनी होगी. साथ ही, Spanner API को चालू करना होगा.

इस कोडलैब को आज़माने के लिए आपको कुछ डॉलर से ज़्यादा खर्च नहीं करना चाहिए. हालांकि, अगर आप ज़्यादा संसाधनों का इस्तेमाल करने का फ़ैसला करते हैं या उन्हें बंद कर देते हैं, तो यह ज़्यादा हो सकता है (इस दस्तावेज़ के आखिर में "क्लीनअप" सेक्शन देखें). Google Cloud Spanner की कीमत की जानकारी यहां दी गई है.

Google Cloud Platform के नए उपयोगकर्ता 300 डॉलर के मुफ़्त में आज़माने की ज़रूरी शर्तें पूरी करते हैं. इसके तहत, कोडलैब का यह वर्शन बिना किसी शुल्क के इस्तेमाल किया जा सकता है.

Google Cloud Shell का सेटअप

Google Cloud और Spanner को आपके लैपटॉप से कहीं से भी ऑपरेट किया जा सकता है. हालांकि, इस कोडलैब में हम Google Cloud Shell का इस्तेमाल करेंगे. यह क्लाउड में चलने वाला कमांड लाइन एनवायरमेंट है.

Debian आधारित इस वर्चुअल मशीन में ऐसे सभी डेवलपमेंट टूल मौजूद हैं जिनकी आपको ज़रूरत पड़ेगी. यह पांच जीबी की स्थायी होम डायरेक्ट्री उपलब्ध कराता है और Google Cloud में चलता है. यह नेटवर्क की परफ़ॉर्मेंस और पुष्टि करने की प्रोसेस को बेहतर बनाता है. इसका मतलब है कि इस कोडलैब के लिए आपको सिर्फ़ एक ब्राउज़र की ज़रूरत होगी. हां, यह Chromebook पर काम करता है.

1. Cloud Console से Cloud Shell को चालू करने के लिए, Cloud Shell को चालू करें पर क्लिक करें. प्रावधान करने और एनवायरमेंट से कनेक्ट होने में कुछ ही समय लगेगा.

Cloud Shell से कनेक्ट करने के बाद, आपको दिखेगा कि आपकी पुष्टि पहले ही हो चुकी है और प्रोजेक्ट पहले से ही आपके PROJECT_ID पर सेट है.

gcloud auth list

कमांड आउटपुट

Credentialed accounts:
 - <myaccount>@<mydomain>.com (active)

ध्यान दें: gcloud कमांड-लाइन टूल, Cloud Shell में पहले से इंस्टॉल होता है. ज़्यादा जानकारी के लिए, gcloud command-line टूल की खास जानकारी देखें.

gcloud config list project

कमांड आउटपुट

[core]
project = <PROJECT_ID>

अगर किसी कारण से, प्रोजेक्ट सेट नहीं है, तो बस निम्न आदेश जारी करें:

gcloud config set project <PROJECT_ID>

क्या आपको अपना PROJECT_ID चाहिए? देखें कि आपने सेटअप के चरणों में किस आईडी का इस्तेमाल किया है या इसे Cloud Console के डैशबोर्ड में देखें:

Cloud Shell, डिफ़ॉल्ट रूप से कुछ एनवायरमेंट वैरिएबल सेट करता है. ये वैरिएबल, आने वाले समय में कमांड चलाने के दौरान काम आ सकते हैं.

echo $GOOGLE_CLOUD_PROJECT

कमांड आउटपुट

<PROJECT_ID>

ध्यान दें: जब अपने खुद के मशीन पर gcloud चलाया जाता है, तो कॉन्फ़िगरेशन सेटिंग सभी सेशन में लागू रही होगी. हालांकि, Cloud Shell में आपको हर नए सेशन या फिर से कनेक्ट करने के लिए, इस सेटिंग को सेट करना होगा.

Spanner API को चालू करना

gcloud services enable spanner.googleapis.com

खास जानकारी

अगर आपके पास पहले से कोई प्रोजेक्ट नहीं था, तो आपने क्लाउड शेल चालू किया था और ज़रूरी एपीआई चालू किए थे. इसके बाद, आपने अपना प्रोजेक्ट सेट अप कर लिया था.

अगला अवॉर्ड

इसके बाद, आपको स्पैनर इंस्टेंस और डेटाबेस सेट अप करना होगा.

3. स्पैनर इंस्टेंस और डेटाबेस बनाना

स्पैनर इंस्टेंस बनाना

इस चरण में, हम कोडलैब के लिए स्पैनर इंस्टेंस सेट अप करते हैं. ऐसा करने के लिए, Cloud Shell खोलें और इस निर्देश को चलाएं:

export SPANNER_INSTANCE_ID=retail-demo
gcloud spanner instances create $SPANNER_INSTANCE_ID \
--config=regional-us-central1 \
--description="spanner AI retail demo" \
--nodes=1

ध्यान दें: इंस्टेंस बनाने में कुछ समय लग सकता है.

ध्यान दें: यह निर्देश, क्षेत्र के तौर पर regional-us-central1 का इस्तेमाल करता है. स्पैनर में उपलब्ध क्षेत्र कॉन्फ़िगरेशन के आधार पर कोई दूसरा क्षेत्र चुना जा सकता है, जो उन क्षेत्रों में VertexAI एंडपॉइंट से मेल खाता है जहां VertexAI एंडपॉइंट मौजूद हैं.

कमांड आउटपुट:

$ gcloud spanner instances create $SPANNER_INSTANCE_ID \
--config=regional-us-central1 \
--description="spanner AI retail demo" \
--nodes=1
Creating instance...done.  

डेटाबेस बनाना

आपका इंस्टेंस चालू होने के बाद, डेटाबेस बनाया जा सकता है. स्पैनर की मदद से किसी एक इंस्टेंस पर कई डेटाबेस बनाए जा सकते हैं.

डेटाबेस वह जगह है जहां आपका स्कीमा तय किया जाता है. आपके पास यह भी कंट्रोल करने का विकल्प होता है कि डेटाबेस को ऐक्सेस करने के लिए किसके पास ऐक्सेस हो. कस्टम एन्क्रिप्शन सेट अप करें, ऑप्टिमाइज़र कॉन्फ़िगर करें, और डेटा के रखरखाव की अवधि सेट करें.

डेटाबेस बनाने के लिए, फिर से gcloud कमांड लाइन टूल का इस्तेमाल करें:

export SPANNER_DATABASE=cymbal-bikes
gcloud spanner databases create $SPANNER_DATABASE \
 --instance=$SPANNER_INSTANCE_ID

कमांड आउटपुट:

$ gcloud spanner databases create $SPANNER_DATABASE \
 --instance=$SPANNER_INSTANCE_ID
Creating database...done.

खास जानकारी

इस चरण में आपने स्पैनर इंस्टेंस और डेटाबेस बनाया है.

अगला अवॉर्ड

इसके बाद, आपको स्पैनर स्कीमा और डेटा सेट अप करना होगा.

4. सिंबल स्कीमा और डेटा लोड करें

सिंबल स्कीमा बनाना

स्कीमा सेट अप करने के लिए, Spanner Studio पर जाएं:

ध्यान दें: Spanner Studio को खोजने के लिए, retail-demo स्पैनर इंस्टेंस पर क्लिक करें. इसके बाद, cymbal-bikes डेटाबेस पर क्लिक करें.

स्कीमा के दो हिस्से होते हैं. सबसे पहले, आपको products टेबल जोड़नी होगी. इस स्टेटमेंट को कॉपी करें और खाली टैब में चिपकाएं.

स्कीमा के लिए, इस डीडीएल को कॉपी करके बॉक्स में चिपकाएं:

CREATE TABLE products (
categoryId INT64 NOT NULL,
productId INT64 NOT NULL,
productName STRING(MAX) NOT NULL,
productDescription STRING(MAX) NOT NULL,
productDescriptionEmbedding ARRAY<FLOAT32>,
createTime TIMESTAMP NOT NULL OPTIONS (
allow_commit_timestamp = true
),
inventoryCount INT64 NOT NULL,
priceInCents INT64,
) PRIMARY KEY(categoryId, productId);

इसके बाद, run बटन पर क्लिक करें और स्कीमा बनने के लिए कुछ सेकंड इंतज़ार करें.

इसके बाद, दो मॉडल बनाएं और उन्हें VertexAI मॉडल के एंडपॉइंट के लिए कॉन्फ़िगर करें.

पहला मॉडल एक एम्बेडिंग मॉडल है, जिसका इस्तेमाल टेक्स्ट से एम्बेडिंग जनरेट करने के लिए किया जाता है. दूसरा मॉडल एक एलएलएम मॉडल है, जिसका इस्तेमाल स्पैनर में मौजूद डेटा के आधार पर जवाब जनरेट करने के लिए किया जाता है.

इस स्कीमा को Spanner Studio में नए टैब में चिपकाएं:

चेतावनी: कोडलैब की शुरुआत में अपने बनाए गए प्रोजेक्ट आईडी में, दोनों स्टेटमेंट के लिए <PROJECT_ID> बदलें.

ध्यान दें: नीचे दिया गया स्कीमा, us-central1 VertexAI एंडपॉइंट का इस्तेमाल करता है. अगर आपने इंस्टेंस बनाते समय कोई दूसरा स्पैनर क्षेत्र चुना है, तो इसे EmbeddingsModel और LLMModel, दोनों परिभाषाओं में बदलें.

CREATE MODEL EmbeddingsModel INPUT(
content STRING(MAX),
) OUTPUT(
embeddings STRUCT<statistics STRUCT<truncated BOOL, token_count FLOAT32>, values ARRAY<FLOAT32>>,
) REMOTE OPTIONS (
endpoint = '//aiplatform.googleapis.com/projects/<PROJECT_ID>/locations/us-central1/publishers/google/models/text-embedding-004'
);


CREATE MODEL LLMModel INPUT(
prompt STRING(MAX),
) OUTPUT(
content STRING(MAX),
) REMOTE OPTIONS (
endpoint = '//aiplatform.googleapis.com/projects/<PROJECT_ID>/locations/us-central1/publishers/google/models/gemini-pro',
default_batch_size = 1
);

फिर, run बटन पर क्लिक करें और अपने मॉडल बनने के लिए कुछ सेकंड इंतज़ार करें.

Spanner Studio के बाएं पैनल में, आपको ये टेबल और मॉडल दिखेंगे:

डेटा लोड करें

अब, आपको अपने डेटाबेस में कुछ प्रॉडक्ट शामिल करने होंगे. Spanner Studio में एक नया टैब खोलें. इसके बाद, इंसर्ट करने के इन स्टेटमेंट को कॉपी करके चिपकाएं:

INSERT INTO products (categoryId, productId, productName, productDescription, createTime, inventoryCount, priceInCents)
VALUES (1, 1, "Cymbal Helios Helmet", "Safety meets style with the Cymbal children's bike helmet. Its lightweight design, superior ventilation, and adjustable fit ensure comfort and protection on every ride. Stay bright and keep your child safe under the sun with Cymbal Helios!", PENDING_COMMIT_TIMESTAMP(), 100, 10999),
(1, 2, "Cymbal Sprout", "Let their cycling journey begin with the Cymbal Sprout, the ideal balance bike for beginning riders ages 2-4 years. Its lightweight frame, low seat height, and puncture-proof tires promote stability and confidence as little ones learn to balance and steer. Watch them sprout into cycling enthusiasts with Cymbal Sprout!", PENDING_COMMIT_TIMESTAMP(), 10, 13999),
(1, 3, "Cymbal Spark Jr.", "Light, vibrant, and ready for adventure, the Spark Jr. is the perfect first bike for young riders (ages 5-8). Its sturdy frame, easy-to-use brakes, and puncture-resistant tires inspire confidence and endless playtime. Let the spark of cycling ignite with Cymbal!", PENDING_COMMIT_TIMESTAMP(), 34, 13900),
(1, 4, "Cymbal Summit", "Conquering trails is a breeze with the Summit mountain bike. Its lightweight aluminum frame, responsive suspension, and powerful disc brakes provide exceptional control and comfort for experienced bikers navigating rocky climbs or shredding downhill. Reach new heights with Cymbal Summit!", PENDING_COMMIT_TIMESTAMP(), 0, 79999),
(1, 5, "Cymbal Breeze", "Cruise in style and embrace effortless pedaling with the Breeze electric bike. Its whisper-quiet motor and long-lasting battery let you conquer hills and distances with ease. Enjoy scenic rides, commutes, or errands with a boost of confidence from Cymbal Breeze!", PENDING_COMMIT_TIMESTAMP(), 72, 129999),
(1, 6, "Cymbal Trailblazer Backpack", "Carry all your essentials in style with the Trailblazer backpack. Its water-resistant material, multiple compartments, and comfortable straps keep your gear organized and accessible, allowing you to focus on the adventure. Blaze new trails with Cymbal Trailblazer!", PENDING_COMMIT_TIMESTAMP(), 24, 7999),
(1, 7, "Cymbal Phoenix Lights", "See and be seen with the Phoenix bike lights. Powerful LEDs and multiple light modes ensure superior visibility, enhancing your safety and enjoyment during day or night rides. Light up your journey with Cymbal Phoenix!", PENDING_COMMIT_TIMESTAMP(), 87, 3999),
(1, 8, "Cymbal Windstar Pump", "Flat tires are no match for the Windstar pump. Its compact design, lightweight construction, and high-pressure capacity make inflating tires quick and effortless. Get back on the road in no time with Cymbal Windstar!", PENDING_COMMIT_TIMESTAMP(), 36, 24999),
(1, 9,"Cymbal Odyssey Multi-Tool","Be prepared for anything with the Odyssey multi-tool. This handy gadget features essential tools like screwdrivers, hex wrenches, and tire levers, keeping you ready for minor repairs and adjustments on the go. Conquer your journey with Cymbal Odyssey!", PENDING_COMMIT_TIMESTAMP(), 52, 999),
(1, 10,"Cymbal Nomad Water Bottle","Stay hydrated on every ride with the Nomad water bottle. Its sleek design, BPA-free construction, and secure lock lid make it the perfect companion for staying refreshed and motivated throughout your adventures. Hydrate and explore with Cymbal Nomad!", PENDING_COMMIT_TIMESTAMP(), 42, 1299);

डेटा डालने के लिए, run बटन पर क्लिक करें.

खास जानकारी

इस चरण में, आपने स्कीमा बनाया और कुछ बेसिक डेटा को cymbal-bikes डेटाबेस में लोड किया.

अगला अवॉर्ड

इसके बाद, प्रॉडक्ट के ब्यौरे के लिए एम्बेड करने की सुविधा जनरेट करने के लिए, आपको एम्बेड करने के मॉडल के साथ इंटिग्रेट करना होगा. साथ ही, काम के प्रॉडक्ट खोजने के लिए, टेक्स्ट वाले खोज अनुरोध को एम्बेड करने के तरीके में बदलना होगा.

5. एम्बेड करने की सुविधा के साथ काम करना

प्रॉडक्ट की जानकारी के लिए, वेक्टर एम्बेडिंग जनरेट करें

प्रॉडक्ट के साथ मिलता-जुलता सर्च इंजन इस्तेमाल करने के लिए, आपको प्रॉडक्ट के ब्यौरे एम्बेड करने होंगे.

स्कीमा में बनाए गए EmbeddingsModel के साथ, यह सामान्य UPDATE डीएमएल स्टेटमेंट है.

UPDATE products p1
SET productDescriptionEmbedding =
(SELECT embeddings.values from ML.PREDICT(MODEL EmbeddingsModel,
(SELECT productDescription as content FROM products p2 where p2.productId=p1.productId)))
WHERE categoryId=1;

प्रॉडक्ट की जानकारी अपडेट करने के लिए, run बटन पर क्लिक करें.

ध्यान दें: बेहतर परफ़ॉर्मेंस के लिए संवेदनशील वर्कलोड के लिए, रीड-ओनली ट्रांज़ैक्शन में ML.PREDICT का इस्तेमाल करके एम्बेडिंग जनरेट करना सबसे अच्छा होता है. इसके बाद, रीड-राइट ट्रांज़ैक्शन का इस्तेमाल करके उन्हें स्पैनर में लिखना सबसे अच्छा तरीका है.

वेक्टर खोज का उपयोग करना

इस उदाहरण में, एसक्यूएल क्वेरी के ज़रिए, आम भाषा में खोज करने का अनुरोध दिया जाएगा. इस क्वेरी से, खोज के अनुरोध को एम्बेड करने की प्रोसेस में बदल दिया जाएगा. इसके बाद, पिछले चरण में जनरेट किए गए प्रॉडक्ट के ब्यौरे की सेव की गई एम्बेडिंग के आधार पर, मिलते-जुलते नतीजों को खोजा जाएगा.

-- Use Spanner's vector search, and integration with embedding and LLM models to
-- return items that are semantically relevant and available in inventory based on
-- real-time data.


SELECT productName, productDescription, inventoryCount, COSINE_DISTANCE(
productDescriptionEmbedding,
(   SELECT embeddings.values
FROM ML.PREDICT(
MODEL EmbeddingsModel,
(SELECT "I'd like to buy a starter bike for my 3 year old child" as content)
)
)
) as distance
FROM products
WHERE inventoryCount > 0
ORDER BY distance
LIMIT 5;

मिलते-जुलते प्रॉडक्ट ढूंढने के लिए, run बटन पर क्लिक करें. नतीजे कुछ इस तरह से दिखने चाहिए:

ध्यान दें कि क्वेरी में अन्य फ़िल्टर इस्तेमाल किए जाते हैं. जैसे, सिर्फ़ उन प्रॉडक्ट में दिलचस्पी हो जो स्टॉक में हैं (inventoryCount > 0).

खास जानकारी

इस चरण में, आपने SQL का इस्तेमाल करके, प्रॉडक्ट की जानकारी को एम्बेड करने और खोज के अनुरोध को एम्बेड करने की प्रोसेस बनाई है. इसके लिए, आपने VertexAI में मॉडल के साथ Spanner के इंटिग्रेशन का फ़ायदा लिया है. आपने खोज अनुरोध से मेल खाने वाले मिलते-जुलते प्रॉडक्ट ढूंढने के लिए वेक्टर खोज भी की है.

अगले चरण

इसके बाद, खोज के नतीजों को एलएलएम से फ़ीड करने के लिए इस्तेमाल किया जाता है, ताकि हर प्रॉडक्ट के लिए पसंद के मुताबिक जवाब जनरेट किया जा सके.

6. एलएलएम की मदद से काम करना

Spanner की मदद से, VertexAI की मदद से दिखाए जाने वाले एलएलएम मॉडल के साथ, इंटिग्रेट करना आसान हो जाता है. इससे डेवलपर, एसक्यूएल का इस्तेमाल करके एलएलएम के साथ सीधे तौर पर इंटरफ़ेस कर पाते हैं. इसके लिए, लॉजिक को लागू करने के लिए ऐप्लिकेशन की ज़रूरत नहीं होती.

उदाहरण के लिए, हमारे पास उपयोगकर्ता "I'd like to buy a starter bike for my 3 year old child". से मिली पिछली एसक्यूएल क्वेरी के नतीजे हैं

डेवलपर नीचे दिए गए प्रॉम्प्ट का इस्तेमाल करके, हर नतीजे के लिए यह बताना चाहता है कि प्रॉडक्ट, उपयोगकर्ता के लिए सही है या नहीं:

"Answer with ‘Yes' or ‘No' and explain why: Is this a good fit for me? I'd like to buy a starter bike for my 3 year old child"

यहां कुछ क्वेरी दी गई है, जिसका इस्तेमाल किया जा सकता है:

-- Use an LLM to analyze this list and provide a recommendation on whether each
-- product is a good fit for the user. We use the vector search and real time
-- inventory data to first filter the products to reduce the size of the prompt to
-- the LLM.
SELECT productName, productDescription, inventoryCount, content AS LLMResponse
FROM ML.PREDICT(
MODEL LLMModel,
(   SELECT
inventoryCount,
productName,
productDescription,
CONCAT(
"Answer with ‘Yes' or ‘No' and explain why: Is this a good fit for me?",
"I'd like to buy a starter bike for my 3 year old child \n",
"Product Name: ", productName, "\n",
"Product Description:", productDescription) AS prompt,
FROM products
WHERE inventoryCount > 0
ORDER by COSINE_DISTANCE(
productDescriptionEmbedding,
(   SELECT embeddings.values
FROM ML.PREDICT(
MODEL EmbeddingsModel,
( SELECT "I'd like to buy a starter bike for my 3 year old child" as content)
)
)
) LIMIT 5
),
STRUCT(256 AS maxOutputTokens)
);

ध्यान दें: हमें एलएलएम मॉडल के लिए पिछले चरण की क्वेरी का ही जवाब देना चाहिए, ताकि हम उन प्रॉडक्ट की सूची जनरेट कर सकें जिनके लिए हमें जवाब चाहिए.

क्वेरी करने के लिए, run बटन पर क्लिक करें. नतीजे कुछ इस तरह से दिखने चाहिए:

पहला प्रॉडक्ट तीन साल के बच्चे के लिए सही है, क्योंकि प्रॉडक्ट के ब्यौरे में उम्र सीमा दी गई है (दो से चार साल वाले बच्चे). दूसरे प्रॉडक्ट सबसे सही नहीं हैं.

खास जानकारी

इस चरण में, आपने किसी उपयोगकर्ता के प्रॉम्प्ट के बुनियादी जवाब जनरेट करने के लिए, एलएलएम का इस्तेमाल किया.

अगले चरण

अब हम जानते हैं कि वेक्टर खोज को स्केल करने के लिए, ANN का इस्तेमाल कैसे किया जाता है.

7. स्केलिंग वेक्टर खोज

वेक्टर खोज के पिछले उदाहरणों में सटीक-KNN वेक्टर खोज का इस्तेमाल किया गया. यह तब बढ़िया होता है, जब आप अपने स्पैनर डेटा के बहुत खास सबसेट के लिए क्वेरी करते हैं. इस तरह की क्वेरी को बहुत ज़्यादा हिस्सों में बांटा जा सकता है.

अगर आपके पास ऐसा वर्कलोड नहीं है जिसे कई हिस्सों में बांटा जा सकता है और आपके पास ज़्यादा डेटा है, तो आपको ScaNN एल्गोरिदम का इस्तेमाल करके ANN वेक्टर की खोज का इस्तेमाल करना होगा. इससे आपको लुकअप परफ़ॉर्मेंस को बेहतर बनाने में मदद मिलेगी.

स्पैनर में ऐसा करने के लिए, आपको दो काम करने होंगे:

• वेक्टर इंडेक्स बनाएं
• APPROX दूरी फ़ंक्शन का इस्तेमाल करने के लिए, अपनी क्वेरी में बदलाव करें.

वेक्टर इंडेक्स बनाएं

इस डेटासेट पर वेक्टर इंडेक्स बनाने के लिए, हमें सबसे पहले हर वेक्टर की लंबाई तय करने के लिए, productDescriptionEmbeddings कॉलम में बदलाव करना होगा. किसी कॉलम में वेक्टर की लंबाई जोड़ने के लिए, आपको मूल कॉलम को छोड़ना होगा और उसे फिर से बनाना होगा.

ALTER TABLE `products` DROP COLUMN `productDescriptionEmbedding`;
ALTER TABLE
  `products` ADD COLUMN `productDescriptionEmbedding` ARRAY<FLOAT32>(vector_length=>768);

इसके बाद, जो Generate Vector embedding चरण आपने पिछली बार चलाया था उससे फिर से एम्बेडिंग बनाएं.

UPDATE products p1
SET productDescriptionEmbedding =
(SELECT embeddings.values from ML.PREDICT(MODEL EmbeddingsModel,
(SELECT productDescription as content FROM products p2 where p2.productId=p1.productId)))
WHERE categoryId=1;

ध्यान दें: प्रोडक्शन एनवायरमेंट में, आपको नई परिभाषा वाला एक नया कॉलम जोड़ना होगा और एम्बेड किए गए कॉन्टेंट को कॉपी करना होगा. फिर पुराने कॉलम को छोड़ने से पहले नए कॉलम का इस्तेमाल करने के लिए ऐप्लिकेशन में बदलाव करें.

कॉलम बनाने के बाद, इंडेक्स बनाएं:

CREATE VECTOR INDEX ProductDescriptionEmbeddingIndex
    ON products(productDescriptionEmbedding)
    WHERE productDescriptionEmbedding IS NOT NULL
OPTIONS (
 distance_type = 'COSINE'
);

ध्यान दें: वेक्टर इंडेक्स बनाने में करीब 30 मिनट लगेंगे. कॉफ़ी या चाय पिएं और खत्म हो जाने पर वापस आएँ.

नए इंडेक्स का इस्तेमाल करना

नए वेक्टर इंडेक्स का इस्तेमाल करने के लिए, आपको पिछली एम्बेड क्वेरी में थोड़ा बदलाव करना होगा.

ओरिजनल क्वेरी यह है:

SELECT productName, productDescription, inventoryCount, COSINE_DISTANCE(
productDescriptionEmbedding,
(   SELECT embeddings.values
FROM ML.PREDICT(
MODEL EmbeddingsModel,
(SELECT "I'd like to buy a starter bike for my 3 year old child" as content)
)
)
) as distance
FROM products
WHERE inventoryCount > 0
ORDER BY distance
LIMIT 5;

आपको नीचे दिए गए बदलाव करने होंगे:

• नए वेक्टर इंडेक्स के लिए इंडेक्स संकेत का इस्तेमाल करें: @{force_index=ProductDescriptionEmbeddingIndex}
• COSINE_DISTANCE फ़ंक्शन कॉल को APPROX_COSINE_DISTANCE में बदलें. ध्यान दें कि यहां आखिरी क्वेरी में दिए गए JSON के विकल्पों को चुनना भी ज़रूरी है.
• ML.PREDICT फ़ंक्शन से अलग से एम्बेडिंग जनरेट करें.
• एम्बेड की गई फ़ाइलों के नतीजों को फ़ाइनल क्वेरी में कॉपी करें.

एम्बेडिंग जनरेट करना

-- Generate the prompt embeddings
SELECT embeddings.values
FROM ML.PREDICT(
  MODEL EmbeddingsModel,
   (SELECT "I'd like to buy a starter bike for my 3 year old child" as content)
  )
)

क्वेरी के नतीजों को हाइलाइट करें और उन्हें कॉपी करें.

इसके बाद, कॉपी किए गए एम्बेड को चिपकाकर, अगली क्वेरी में <VECTOR> को बदलें.

-- Embedding query now using the vector index


SELECT productName, productDescription, inventoryCount, 
  APPROX_COSINE_DISTANCE(productDescriptionEmbedding, array<float32>[@VECTOR], options => JSON '{\"num_leaves_to_search\": 10}')
FROM products @{force_index=ProductDescriptionEmbeddingIndex}
WHERE productDescriptionEmbedding IS NOT NULL AND inventoryCount > 0
ORDER BY distance
LIMIT 5;

यह कुछ ऐसी नज़र आनी चाहिए:

खास जानकारी

इस चरण में, वेक्टर इंडेक्स बनाने के लिए, अपने स्कीमा को बदला गया. इसके बाद, वेक्टर इंडेक्स का इस्तेमाल करके ANN की खोज करने के लिए, आपने एम्बेड करने वाली क्वेरी को फिर से लिखा. वेक्टर खोज के वर्कलोड को स्केल करने के लिए, आपके डेटा की पहुंच बढ़ने के साथ-साथ यह एक ज़रूरी कदम है.

अगले चरण

अब यह स्टोरेज खाली करने का समय है!

8. जगह खाली की जा रही है (ज़रूरी नहीं)

स्टोरेज खाली करने के लिए, Cloud Console के Cloud Spanner सेक्शन में जाएं और कोडलैब में बनाए गए 'retail-demo' इंस्टेंस को मिटाएं.

9. बधाई हो!

बधाई हो, आपने स्पैनर के बिल्ट-इन वेक्टर खोज का इस्तेमाल करके समानता खोजने की प्रक्रिया पूरी कर ली है. इसके अलावा, आपने देखा कि सीधे एसक्यूएल का इस्तेमाल करके जनरेटिव एआई की सुविधा देने के लिए, एम्बेड करने और एलएलएम मॉडल के साथ काम करना कितना आसान है.

आखिर में, आपने वेक्टर खोज के वर्कलोड को स्केल करने के लिए, ScaNN एल्गोरिदम की मदद से ANN खोज करने की प्रोसेस सीख ली है.

आगे क्या करना है?

Spanner की सटीक निकटतम पड़ोसी (KNN वेक्टर खोज) सुविधा के बारे में यहां ज़्यादा जानें: https://cloud.google.com/spanner/docs/find-k-nearest-neighbors

Spanner की अनुमानित निकटतम पड़ोसी (ANN वेक्टर खोज) सुविधा के बारे में यहां ज़्यादा जानें: https://cloud.google.com/spanner/docs/find-approximate-nearest-neighbors

Spanner के VertexAI इंटिग्रेशन का इस्तेमाल करके, एसक्यूएल के साथ ऑनलाइन अनुमान लगाने के तरीके के बारे में ज़्यादा जानने के लिए, यहां जाएं: https://cloud.google.com/spanner/docs/ml