PAIR Guidebook की मदद से, भरोसेमंद एआई प्रॉडक्ट बनाना

1. शुरू करने से पहले

इस कोडलैब में, People + AI Research (PAIR) Guidebook के नए वर्शन में दिए गए सबसे सही तरीकों का इस्तेमाल करके, एआई की मदद से एक नया प्रॉडक्ट डिज़ाइन किया जाएगा. इसमें इंसानों को ध्यान में रखते हुए डेटा के इस्तेमाल के तरीके और उपयोगकर्ता के भरोसे को सही तरीके से कैलिब्रेट करने पर फ़ोकस किया जाएगा.

ज़रूरी शर्तें

एआई के बारे में बुनियादी जानकारी.
प्रॉडक्ट डेवलपमेंट वर्कफ़्लो की जानकारी.

आपको क्या सीखने को मिलेगा

इस कोडलैब में, आपको Google Research की People + AI Guidebook का इस्तेमाल करके, भरोसेमंद और लोगों की ज़रूरतों को ध्यान में रखकर बनाए गए एआई प्रॉडक्ट बनाने का तरीका बताया जाएगा.

खास तौर पर, आपको:

PAIR Guidebook के दूसरे एडिशन में नया क्या है, इसके बारे में जानें.
एआई को डेवलप करने की प्रोसेस में, कई तरह की गतिविधियां शामिल होती हैं. इनसे, उपयोगकर्ताओं का भरोसा बढ़ाने के मौकों के बारे में पता चलता है. साथ ही, डेटा और उपयोगकर्ताओं को एआई के काम करने के तरीके के बारे में जानकारी देने पर फ़ोकस किया जाता है.
ज़्यादा जानकारी के लिए उपलब्ध टूलकिट में मौजूद कई तरह के मटीरियल और संसाधनों के बारे में जानें.

ध्यान दें: यह कोडलैब मुख्य रूप से, PAIR Guidebook के संसाधनों का इस्तेमाल करके, किसी प्रॉडक्ट में एआई की नई सुविधा के लिए वर्कफ़्लो दिखाने पर फ़ोकस करता है. हमने TensorFlow का एक ट्यूटोरियल शामिल किया है. इसका इस्तेमाल करके, इस सुविधा को लागू किया जा सकता है. हालांकि, इसमें काम के कॉन्सेप्ट और कोड ब्लॉक को शामिल नहीं किया गया है. साथ ही, कोडलैब के बाद ज़्यादा जानने के लिए लिंक दिए गए हैं.

आपको किन चीज़ों की ज़रूरत होगी

ब्राउज़र
Colaboratory नोटबुक देखने के लिए Google खाता (जैसे, BERT की मदद से भावना का विश्लेषण करना)

2. अपनी प्रोफ़ाइल बनाना शुरू करें

हम इस साल Google I/O में, PAIR Guidebook का दूसरा एडिशन लॉन्च कर रहे हैं! इसका पहला वर्शन दो साल पहले रिलीज़ किया गया था. तब से, दुनिया भर के 2.5 लाख से ज़्यादा लोग इसका इस्तेमाल कर रहे हैं. इनमें डेवलपर, डिज़ाइनर, प्रॉडक्ट मैनेजर, छात्र-छात्राएं वगैरह शामिल हैं. अब हम इसे और भी ज़्यादा असरदार बनाने के लिए, कुछ अपडेट लॉन्च करने जा रहे हैं.

खास तौर पर, इस दूसरे वर्शन में हम गाइडबुक में नेविगेट करने और टास्क के हिसाब से कॉन्टेंट ढूंढने का एक नया तरीका उपलब्ध करा रहे हैं. हमने कुछ अहम सवालों की सूची तैयार की है. ये सवाल, एआई को उपयोगकर्ता के हिसाब से बनाने वाले प्रॉडक्ट को डेवलप करते समय, आपको और आपकी टीम को हो सकते हैं. साथ ही, इनसे आपको ज़रूरत के समय, ज़रूरी कॉन्टेंट ढूंढने में मदद मिलेगी:

मुझे अपने प्रॉडक्ट में एआई का इस्तेमाल कब और कैसे करना चाहिए?
मैं ज़िम्मेदारी के साथ अपना डेटासेट कैसे बनाऊं?
मैं उपयोगकर्ताओं को अपने एआई सिस्टम पर भरोसा करने और उसे कैलिब्रेट करने में कैसे मदद करूं?
मैं उपयोगकर्ताओं को एआई की नई सुविधाओं के बारे में कैसे बताऊं?
मैं अपने एआई सिस्टम के बारे में लोगों को कैसे बताऊं?
उपयोगकर्ता के कंट्रोल और ऑटोमेशन के बीच सही संतुलन क्या है?
अगर कोई गड़बड़ी होती है, तो मैं उपयोगकर्ताओं की मदद कैसे करूं?

कोई सवाल चुनने के बाद, आपको काम का कॉन्टेंट छोटी और ज़्यादा काम की इकाइयों में मिलेगा.

हमने PAIR की गाइडबुक को भी नए कॉन्टेंट के साथ अपडेट किया है:

एआई डिज़ाइन पैटर्न का सेट
केस स्टडी
अपडेट किए गए चैप्टर
नई कसरत और वर्कशॉप किट

इस कोडलैब में, आपको एआई की मदद से नई सुविधा डेवलप करते समय, वर्कफ़्लो में इन डिज़ाइन पैटर्न को ऐक्शन में देखने को मिलेगा.

आइए, शुरू करें!

3. उपयोगकर्ता की ज़रूरत को एआई की समस्या में बदलना

यहां दिया गया उदाहरण देखें:

आपको फ़िल्में देखने के लिए एक ऐप्लिकेशन बनाना है. साथ ही, आपको उपयोगकर्ताओं को बेहतर और उनकी पसंद के मुताबिक अनुभव देना है, ताकि उन्हें उनकी पसंद की ज़्यादा फ़िल्में मिल सकें.

ऐप्लिकेशन के लैंडिंग पेज में फ़िलहाल ये सेक्शन शामिल हैं:

रिलीज़ की तारीख के हिसाब से क्रम से लगाई गई नई फ़िल्मों की सूची
सभी फ़िल्मों की सूची, शैली के हिसाब से व्यवस्थित की गई है
एक सर्च बॉक्स, जहां उपयोगकर्ता फ़िल्म के टाइटल, कास्ट वगैरह के हिसाब से खोज सकते हैं.

फ़िल्मों का ऐसा ऐप्लिकेशन जिसमें दिलचस्पी के हिसाब से सुझाव नहीं मिलते

आपको उपयोगकर्ता के लिए, फ़िल्मों के सुझाव देने वाला एक नया सेक्शन जोड़ना है. आपको लगता है कि एआई, इस सुविधा को लागू करने का एक अच्छा विकल्प हो सकता है. किसी भी सुविधा को लागू करने से पहले, आपको ये काम करने होंगे:

मौजूदा वर्कफ़्लो की समीक्षा करें: उपयोगकर्ता फ़िलहाल ऐप्लिकेशन से कैसे इंटरैक्ट करते हैं और आपको क्या लगता है कि उनके अनुभव को कैसे बेहतर बनाया जा सकता है?
पता लगाएं कि क्या एआई से कोई खास फ़ायदा मिल सकता है: क्या आपकी समस्या ऐसी है जिसे एआई की मदद से आसानी से हल किया जा सकता है? क्या एआई से आपके प्रॉडक्ट का उपयोगकर्ता अनुभव बेहतर हो सकता है?

PAIR की गाइडबुक के उपयोगकर्ता की ज़रूरतें + सफलता को तय करना चैप्टर का इस्तेमाल करके, उन इस्तेमाल के उदाहरणों की सूची देखें जिनमें एआई एक अच्छा समाधान हो सकता है. साथ ही, यह पता लगाएं कि आपके उपयोगकर्ताओं की ज़रूरतें, किस तरह की समस्याओं में आती हैं:

अलग-अलग उपयोगकर्ताओं को अलग-अलग कॉन्टेंट का सुझाव देना
उपयोगकर्ताओं की दिलचस्पी के हिसाब से अनुभव देने से, उन्हें बेहतर अनुभव मिलता है
डाइनैमिक कॉन्टेंट दिखाना, अनुमान लगाने वाले इंटरफ़ेस से ज़्यादा असरदार होता है

उन मामलों की सूची ज़रूर देखें जिनमें एआई शायद बेहतर समाधान नहीं है.

अब जब आपको पता चल गया है कि एआई की मदद से काम करने वाला समाधान, उपयोगकर्ता की इस ज़रूरत को पूरा करने के लिए एक अच्छा विकल्प है, तो आपको यह आकलन करना होगा कि क्या इससे वाकई उपयोगकर्ता को बेहतर अनुभव मिलेगा.

पैटर्न:

एआई की मदद से ऐप्लिकेशन बनाना शुरू करने से पहले, पक्का करें कि जिस प्रॉडक्ट या सुविधा के लिए आपको ऐप्लिकेशन बनाना है उसके लिए एआई की ज़रूरत है या एआई की मदद से उसे बेहतर बनाया जा सकता है.

एआई, इन जैसे ऐप्लिकेशन के लिए सबसे सही है:

अलग-अलग उपयोगकर्ताओं को अलग-अलग कॉन्टेंट का सुझाव देना, जैसे कि फ़िल्मों के सुझाव
आने वाले समय में होने वाली घटनाओं का अनुमान लगाना, जैसे कि मौसम की जानकारी या फ़्लाइट के किराये में होने वाले बदलाव
नैचुरल लैंग्वेज अंडरस्टैंडिंग
इमेज पहचानने की सुविधा

नियम या अनुभव के आधार पर तैयार किया गया समाधान इन मामलों में बेहतर हो सकता है:

अनुमानित नतीजों को बनाए रखना ज़रूरी है
उपयोगकर्ताओं, ग्राहकों या डेवलपर को पूरी जानकारी देना ज़रूरी है
लोग नहीं चाहते कि कोई टास्क अपने-आप पूरा हो

एआई का इस्तेमाल कब करना चाहिए (या कब नहीं करना चाहिए), इस बारे में ज़्यादा जानने के लिए उपयोगकर्ता की ज़रूरतें चैप्टर देखें.

पूरे पैटर्न का लिंक: https://pair.withgoogle.com/guidebook/patterns#determine-if-ai-adds-value

हर उपयोगकर्ता को ऐसी फ़िल्में हाइलाइट करके, ऐप्लिकेशन को ज़्यादा फ़ायदेमंद बनाया जा सकता है जिन्हें देखने में उसकी दिलचस्पी हो. इससे, उपयोगकर्ताओं को सिर्फ़ नई या सबसे ज़्यादा रेटिंग वाली फ़िल्में दिखाने के बजाय, बेहतर अनुभव मिलता है. आपको यह भी लगता है कि इस सुविधा की मदद से, तेज़ी से बढ़ती फ़िल्मों की कैटलॉग को एक्सप्लोर करने में, लोगों का कुछ समय बचाया जा सकता है.

एआई की मदद से काम करने वाले समाधान का इस्तेमाल करने का फ़ैसला लेने के बाद, अब अगले चरणों की योजना बनाई जा सकती है.

4. टास्क के लिए डेटासेट बनाना

उपयोगकर्ताओं को फ़िल्मों के सुझाव देने के लिए, आपको सुझाव देने वाले सिस्टम को ट्रेन करना होगा. इसके लिए, आपको एक ऐसा डेटासेट तैयार करना होगा जिससे आपका एआई मॉडल सीखेगा.

सबसे पहले, आपको उपयोगकर्ता की ज़रूरतों को डेटा की ज़रूरतों से मैच करना होगा.

PAIR Guidebook के डेटा कलेक्शन + आकलन चैप्टर में दी गई मैचिंग एक्सरसाइज का इस्तेमाल करके, यह तय करें कि:

उपयोगकर्ता: फ़िल्म देखने वाले लोग (फ़िल्म ऐप्लिकेशन के उपयोगकर्ता)
उपयोगकर्ता की ज़रूरत: उन्हें अपनी पसंद की फ़िल्में आसानी से और जल्दी मिलें
उपयोगकर्ता की कार्रवाई: ऐप्लिकेशन के ज़रिए फ़िल्में चुनना और देखना
एआई सिस्टम का आउटपुट: कौनसी फ़िल्में सुझानी हैं और क्यों (भावनाओं के लेबल या टैग)
एआई सिस्टम लर्निंग: फ़िल्मों के सुझाव स्वीकार करने, पूरी फ़िल्में देखने, फ़िल्मों की समीक्षाएं लिखने, और इन फ़िल्मों को ज़्यादा रेटिंग देने से जुड़े व्यवहार के पैटर्न
ज़रूरी डेटासेट: ऐप्लिकेशन पर फ़िल्म देखने का डेटा, फ़िल्म की जानकारी, और फ़िल्म की रेटिंग और समीक्षाएं
डेटासेट में ज़रूरी मुख्य सुविधाएं: दर्शक की फ़िल्म से जुड़ी प्राथमिकताएं और देखने का इतिहास, फ़िल्म की जानकारी (जैसे, शैली, कलाकार), फ़िल्म की स्टार रेटिंग, फ़िल्म की समीक्षाएं
डेटासेट में ज़रूरी लेबल: ऐप्लिकेशन के सुझाव को स्वीकार या अस्वीकार करने वाले दर्शकों की दर, फ़िल्म पूरी देखने वाले दर्शकों की दर, दर्शकों की रेटिंग और समीक्षाएं, और सुझाव को अस्वीकार करने की वजह के बारे में दर्शकों की राय

इस गतिविधि को पूरा करने के बाद, आपको कई संभावित डेटा सोर्स दिखने लगेंगे:

ऐप्लिकेशन से मिला उपयोगकर्ता का डेटा (तय की गई प्राथमिकताएं और देखने का इतिहास)
ऐप्लिकेशन से मिली फ़िल्म की जानकारी (टाइटल, साल, अवधि, कलाकार वगैरह)
IMDB और MovieLens जैसे अन्य स्रोतों से मिली फ़िल्मों की समीक्षाएं और रेटिंग की जानकारी

आपको किस तरह के डेटा की ज़रूरत होगी, यह तय करने के बाद, Google के एआई के सिद्धांत और ज़िम्मेदारी के साथ एआई का इस्तेमाल करने के तरीके को फ़्रेमवर्क के उदाहरण के तौर पर देखें. इनसे आपको ज़रूरी बातों पर ध्यान देने में मदद मिलेगी. जैसे, निजता (उदाहरण के लिए, "सूचना देने और सहमति लेने के अवसर दें") और निष्पक्षता (उदाहरण के लिए, "उपयोगकर्ता की बार-बार जांच करें, ताकि डेवलपमेंट साइकल में अलग-अलग उपयोगकर्ताओं की ज़रूरतों को शामिल किया जा सके.")

आखिर में, ट्रेनिंग के लिए डेटासेट तैयार करते समय, पक्का करें कि आपने ऐसा डेटा इकट्ठा किया हो जो असल दुनिया से जुड़ा हो. साथ ही, उसमें "नॉइज़ी" डेटा भी शामिल हो. उदाहरण के लिए, पक्का करें कि आपने स्पेलिंग की गलतियों, संक्षिप्त शब्दों, इमोजी, और असामान्य या ग़ैर-ज़रूरी वर्णों वाली फ़िल्म की समीक्षाएं शामिल की हों. ऐसा इसलिए, क्योंकि आपके ऐप्लिकेशन के उपयोगकर्ता आने वाले समय में, पूरी तरह से फ़ॉर्मैट की गई समीक्षाओं के बजाय, इसी तरह की असली और "शोरगुल" वाली समीक्षाएं सबमिट करेंगे!

पैटर्न:

ट्रेनिंग डेटासेट बनाते समय, यह ज़रूरी नहीं है कि वह पूरी तरह से सही हो. इसके बजाय, कुछ "नॉइज़" को शामिल करें, ताकि डेटा को उस असल दुनिया के डेटा के जितना हो सके उतना मिलता-जुलता बनाया जा सके जो आपको अपने उपयोगकर्ताओं से मिलने की उम्मीद है. इससे आपको मॉडल को असल दुनिया में रिलीज़ करने के बाद, गड़बड़ियों और खराब क्वालिटी वाले सुझावों से बचने में मदद मिल सकती है.

इसके लिए, सोचें कि आपको उपयोगकर्ताओं से किस तरह का डेटा चाहिए. इसके बाद, पक्का करें कि वह डेटा आपके ट्रेनिंग सेट में मौजूद हो.

उदाहरण के लिए, इमेज पहचानने वाले सिस्टम के लिए, उस डेटा के बारे में सोचें जो आपको उपयोगकर्ताओं से मिल सकता है. अगर आपको लगता है कि वे अच्छी क्वालिटी की फ़ोटो नहीं ले पाएंगे और आपके मॉडल को स्मार्टफ़ोन से ली गई धुंधली इमेज के साथ काम करना होगा, तो ट्रेनिंग डेटा में धुंधली इमेज शामिल करें.

पूरे पैटर्न का लिंक: https://pair.withgoogle.com/guidebook/patterns#embrace-noisy-data

एआई की समस्या और डेटासेट की ज़रूरतों के हिसाब से उपयोगकर्ता की ज़रूरतों को मैप करने के बाद, अब एआई को ट्रेनिंग दी जा सकती है. इससे वह आपके ऐप्लिकेशन के उपयोगकर्ताओं को सुझाव दे पाएगा और फ़िल्मों को लेबल कर पाएगा. हम इस कोडलैब में, प्रोसेस के इस हिस्से के बारे में नहीं बताएंगे. हालांकि, यहां दिए गए संसाधनों में आपको सुझाव देने वाले सिस्टम और भावना विश्लेषण के बारे में ज़्यादा जानकारी मिल सकती है:

Google Developers पर सुझाव देने वाले सिस्टम के बारे में खुद से सीखने के लिए उपलब्ध कोर्स
TensorFlow.org पर BERT की मदद से, भावनाओं का विश्लेषण करने के लिए टेक्स्ट क्लासिफ़िकेशन ट्यूटोरियल

5. सिस्टम की सुविधाओं और सीमाओं के बारे में जानकारी देना

अपने ऐप्लिकेशन के लिए उपयोगकर्ता अनुभव डिज़ाइन करते समय, आपको एआई की मदद से काम करने वाली नई सुविधा का इस्तेमाल शुरू करने के लिए उपयोगकर्ताओं को शामिल करने की योजना बनानी होगी. साथ ही, उन्हें इस सुविधा के बारे में सही जानकारी देनी होगी. लोगों को हर स्थिति में, आपके एआई सिस्टम पर आंख मूंदकर भरोसा नहीं करना चाहिए. इसके बजाय, उन्हें सही तरीके से भरोसा करना चाहिए.

उपयोगकर्ताओं को अपने प्रॉडक्ट के बारे में जानकारी देना एक ऐसी प्रोसेस है जो आपके प्रॉडक्ट के साथ उनके पहले इंटरैक्शन से पहले ही शुरू हो जाएगी. आपको प्रॉडक्ट के इस्तेमाल के दौरान और इसके बाहर, कई तरीकों से जानकारी देनी होगी:

तुरंत जवाब पाएं. ज़रूरत पड़ने पर, किसी नतीजे, सुझाव वगैरह के लिए वजहें बताएं.
प्रॉडक्ट में ज़्यादा जानकारी दें. एआई सिस्टम के बारे में बताने के लिए, प्रॉडक्ट में मौजूद अन्य सुविधाओं का इस्तेमाल करें. जैसे, ऑनबोर्डिंग.
प्रॉडक्ट के अनुभव से आगे बढ़ें. ऐसा हो सकता है कि प्रॉडक्ट में मौजूद जानकारी काफ़ी न हो. हालांकि, इसे कई अन्य संसाधनों के साथ इस्तेमाल किया जा सकता है. जैसे, जागरूकता बढ़ाने के लिए मार्केटिंग कैंपेन और मेंटल मॉडल डेवलप करने के लिए शिक्षा से जुड़े संसाधन और साक्षरता कैंपेन.

उदाहरण के लिए: किसी व्यक्ति ने ऐप्लिकेशन में लॉग इन किया है. इसके बाद, वह अपने लैंडिंग पेज पर जोड़ी गई नई सूची में से, सुझाई गई कोई फ़िल्म चुनता है. आपको इस बात की जानकारी भी देनी चाहिए कि उन्हें सुझावों की सूची में यह फ़िल्म क्यों दिख रही है. इसके अलावा, उन्हें फ़िल्म के बारे में सामान्य जानकारी भी मिलनी चाहिए.

PAIR की गाइडबुक में, सवाल के हिसाब से खोज करने की सुविधा का इस्तेमाल करके, "मैं उपयोगकर्ताओं को अपने एआई सिस्टम के बारे में कैसे बताऊं?" को चुनने पर, आपको यह पैटर्न मिलता है: पूरी जानकारी देने के बजाय, समझने के लिए जानकारी दें.

पैटर्न:

अपने एआई सिस्टम से मिले सुझावों के बारे में बताते समय, ऐसी जानकारी शेयर करें जिससे लोगों को फ़ैसले लेने और आगे बढ़ने में मदद मिले. सिस्टम में हो रही हर चीज़ के बारे में बताने की कोशिश न करें.

अक्सर, किसी खास अनुमान के पीछे की वजह पता नहीं होती है या उसे एक आसान वाक्यांश या वाक्य में नहीं बताया जा सकता. ऐसा भी हो सकता है कि लोग आपके प्रॉडक्ट का इस्तेमाल करते समय, ज़रूरत से ज़्यादा जानकारी से परेशान न हों या उनका ध्यान न भटके.

एक्सप्लेनेबिलिटी + भरोसा चैप्टर में, कम शब्दों में और आसानी से समझ में आने वाली जानकारी देने के अलग-अलग तरीकों के उदाहरण दिए गए हैं. इनमें कुछ जानकारी देना, धीरे-धीरे जानकारी देना, और मॉडल के भरोसेमंद होने की जानकारी दिखाना शामिल है.

अगर आपको यह बताना है कि पूरा सिस्टम कैसे काम करता है, तो इसके लिए ज़्यादा जानकारी या लंबा जवाब दें. हालांकि, इसे ऐक्टिव उपयोगकर्ता के फ़्लो से बाहर रखें. उदाहरण के लिए, मार्केटिंग के लिए उपलब्ध कराई गई सामग्री या ऑनबोर्डिंग कॉन्टेंट में यह जानकारी दें.

पूरे पैटर्न का लिंक: https://pair.withgoogle.com/guidebook/patterns#explain-for-understanding

इस पैटर्न में बताए गए सबसे सही तरीकों को लागू करके, आपने इस तरह की जानकारी दिखाने का फ़ैसला किया:

मूवी का सुझाव और सुझाव देने की वजह

इस उदाहरण में, एक्सप्लेनेबिलिटी + भरोसा के लिए, PAIR की गाइडबुक में दिए गए दिशा-निर्देशों का पालन किया जा रहा है. साथ ही, डेटा सोर्स का इस्तेमाल करके, उपयोगकर्ता को तीन सबसे ज़्यादा वोट वाली समीक्षाओं के बारे में जानकारी दी जा रही है.

इसके अलावा, आपने उन शब्दों को हाइलाइट किया है जिनकी वजह से इस फ़िल्म के बारे में लोगों की राय अच्छी बनी है. ये ऐसे फ़ैक्टर हैं जो लोगों को फ़िल्म चुनने में मदद करते हैं. PAIR के लैंग्वेज इंटरप्रेटेबिलिटी टूल (एलआईटी) के लिए, इस डेमो में जाकर, भावना के आधार पर क्लासिफ़ायर के बारे में ज़्यादा जानें.

लर्निंग इंटरप्रेटेबिलिटी टूल (एलआईटी) का स्क्रीनशॉट

एलआईटी की मदद से, नैचुरल लैंग्वेज प्रोसेसिंग (एनएलपी) मॉडल के व्यवहार की जांच की जा सकती है. इसके लिए, विज़ुअल, इंटरैक्टिव, और एक्सटेंसिबल टूल का इस्तेमाल किया जाता है. इससे आपको हाइपोथेसिस की जांच करने और उन्हें डेटासेट पर मान्य करने में मदद मिलती है. इसमें काम के मेट्रिक और स्थानीय तौर पर दी गई जानकारी (जैसे, अहमियत के मैप और अनुमान के विज़ुअलाइज़ेशन) शामिल होती है. प्रॉडक्ट टीमें, इस्तेमाल के इन उदाहरणों में LIT का इस्तेमाल कर सकती हैं:

मॉडल को डिप्लॉय करने से पहले
निष्पक्षता की जांच करते समय
अलग-अलग सुझावों को डीबग करने के लिए
किसी नए मॉडल की तुलना पुराने मॉडल से करते समय

6. यह तय करना कि कॉन्फ़िडेंस को कैसे दिखाया जाए

लोगों को सुझावों के बारे में जानकारी देने का एक और तरीका यह है कि सुझावों में मॉडल के भरोसेमंद होने की जानकारी दिखाई जाए. मॉडल कॉन्फ़िडेंस स्कोर से यह पता चलता है कि एआई को अपने अनुमान पर कितना भरोसा है. साथ ही, यह भी पता चलता है कि एआई ने किन विकल्पों पर विचार किया. इसमें यह नहीं बताया जाता कि एआई ने कोई फ़ैसला क्यों या कैसे लिया. ज़्यादातर मॉडल, सबसे सही एन क्लासिफ़िकेशन और कॉन्फ़िडेंस स्कोर जनरेट कर सकते हैं. इसलिए, मॉडल के कॉन्फ़िडेंस लेवल की जानकारी, अक्सर आसानी से उपलब्ध हो जाती है.

उपयोगकर्ता को सुझाई गई फ़िल्मों के पेजों में कॉन्फ़िडेंस स्कोर जोड़ने से पहले, आपको यह तय करना होगा कि यह स्कोर उपयोगकर्ता के लिए मददगार है या नहीं. अगर हां, तो इसे दिखाने का सबसे अच्छा तरीका क्या हो सकता है.

पैटर्न:

कुछ मामलों में, मॉडल के भरोसेमंद होने का स्कोर दिखाकर, लोगों को यह तय करने में मदद की जा सकती है कि एआई के आउटपुट पर कितना भरोसा किया जाए. इसमें यह जानकारी भी शामिल होती है कि एआई को अपने अनुमान पर कितना भरोसा है और उसने किन विकल्पों पर विचार किया है.

हालांकि, अन्य संदर्भों में, भरोसेमंदता के स्कोर को समझना उपयोगकर्ताओं के लिए मुश्किल हो सकता है.

अगर आपको इनका इस्तेमाल करना है, तो अलग-अलग तरह के डिसप्ले को प्रॉडक्ट डेवलपमेंट प्रोसेस की शुरुआत में ही टेस्ट करें. इससे आपको यह पता चलेगा कि आपके उपयोगकर्ताओं के लिए सबसे अच्छा क्या है.

पूरे पैटर्न का लिंक: https://pair.withgoogle.com/guidebook/patterns#how-to-show-model-confidence

PAIR Guidebook के एक्सप्लेनेबिलिटी + भरोसा चैप्टर में, भरोसे की जानकारी दिखाने के लिए सुझाए गए तरीकों की समीक्षा करने पर, आपको ये विकल्प मिलते हैं:

एन-मोस्ट लाइकली क्लासिफ़िकेशन
कॉन्फ़िडेंस लेवल की संख्या

ऐप्लिकेशन में उपयोगकर्ता को लैंडिंग पेज पर, सुझाई गई फ़िल्मों की सूची दिखानी है. इसलिए, आपने क्रम से लगाई गई सूची का विकल्प चुना है. इसमें, सबसे ज़्यादा पसंद की जाने वाली फ़िल्मों को क्रम से दिखाया जाता है.

सुझाई गई फ़िल्मों का कैरसेल. इसमें सबसे ज़्यादा सुझाई गई फ़िल्में पहले दिखती हैं

7. उपयोगकर्ता को गड़बड़ियों से आगे बढ़ने का तरीका बताएं

पिछले कुछ चरणों में, आपने उपयोगकर्ताओं को उम्मीदें तय करने और उन्हें जानकारी देने के कुछ सबसे सही तरीकों के बारे में जाना. इससे आपको उपयोगकर्ताओं का भरोसा जीतने और उसे बनाए रखने में मदद मिलेगी.

एक और अहम सवाल यह है कि गड़बड़ी होने पर, उपयोगकर्ता अनुभव कैसा होता है? उपयोगकर्ता आगे कैसे बढ़ते हैं, यह भी उतना ही ज़रूरी है. सिस्टम के काम न करने पर, उपयोगकर्ताओं को यह बताना कि वे क्या कर सकते हैं, उन्हें सशक्त बनाता है. साथ ही, इससे आपके प्रॉडक्ट की उपयोगिता बनी रहती है.

PAIR Guidebook के गड़बड़ियां + ग्रेसफ़ुल फ़ेलियर चैप्टर में बताया गया है कि आपको सबसे पहले यह तय करना होगा कि आपके प्रॉडक्ट के लिए गड़बड़ी क्या है और यह किस तरह की गड़बड़ी है (उपयोगकर्ता, सिस्टम या कॉन्टेक्स्ट).

यहां दिए गए उदाहरण देखें:

उपयोगकर्ता को ऐसी फ़िल्म का सुझाव मिलता है जिसे वह पहले ही सिनेमाघर में देख चुका है. ऐसा हो सकता है कि यह सुझाव बंद न हो, लेकिन यह उपयोगकर्ता के लिए मददगार नहीं है.
उपयोगकर्ता को ऐसी फ़िल्म का सुझाव मिलता है जिसे वह पहले ही देख चुका है और उसे वह पसंद नहीं आई. ऐसा हो सकता है कि उपयोगकर्ता को यह सुझाव, उसकी पसंद के हिसाब से न लगे.
उपयोगकर्ता को ऐसी शैली की फ़िल्म का सुझाव मिलता है जिसे वह आम तौर पर पसंद नहीं करता. उपयोगकर्ता को यह गड़बड़ी लग सकती है.
उपयोगकर्ता को ऐसी फ़िल्म का सुझाव मिलता है जो अब ऐप्लिकेशन पर होस्ट नहीं की गई है. यह सिस्टम की गड़बड़ी है.

ऊपर दिए गए दूसरे और तीसरे उदाहरण में, एआई ने ऐसा सुझाव दिया है जो इस उपयोगकर्ता के लिए मददगार नहीं है. अगर इस तरह की गड़बड़ियां होती हैं, तो आपको उपयोगकर्ता को अनुमान के बारे में सुझाव/राय देने या शिकायत करने का विकल्प देना होगा. साथ ही, आपको यह भी बताना होगा कि अनुमान के नतीजे कब तक दिखेंगे. इसके लिए, PAIR की गाइडबुक के सुझाव/राय देना या शिकायत करना + कंट्रोल चैप्टर में दिए गए सुझावों का पालन करें.

पैटर्न:

अगर एआई की मदद से काम करने वाला आपका सिस्टम, उपयोगकर्ता की उम्मीद के मुताबिक काम नहीं करता है, तो पक्का करें कि उसके पास सुझाव/राय देने या शिकायत करने का विकल्प हो. साथ ही, जितना हो सके उतना उस सुझाव, शिकायत या राय का इस्तेमाल करके अपने मॉडल को बेहतर बनाएं.

एआई सिस्टम के बारे में सुझाव/राय देने या शिकायत करने के कई तरीके हो सकते हैं. जैसे,

किसी सुझाव को पसंद या नापसंद करना
अनचाहे सुझावों को छिपाना
समस्या पैदा करने वाले सुझावों को फ़्लैग करना या उनकी शिकायत करना
फ़ीडबैक देने के ज़्यादातर पारंपरिक तरीके, जिनमें कोई व्यक्ति फ़ॉर्म या किसी अन्य तरीके से समस्या की शिकायत करता है

जब कोई उपयोगकर्ता सुझाव/राय देता है या शिकायत करता है, तो उसे बताएं कि आपको उसका सुझाव/राय या शिकायत मिल गई है. अगर हो सके, तो उन्हें बताएं कि सिस्टम, सुझाव/राय देने या शिकायत करने पर क्या कार्रवाई करेगा.

पूरे पैटर्न का लिंक: https://pair.withgoogle.com/guidebook/patterns#let-users-give-feedback

आपके ऐप्लिकेशन के मामले में, यह कुछ ऐसा दिख सकता है:

उपयोगकर्ता, सुझावों के बारे में सुझाव/राय दे सकते हैं या शिकायत कर सकते हैं...

...और उन्हें यह सूचना दी जाती है कि आगे क्या होगा

8. बधाई हो

बधाई हो! आपने अभी-अभी एक उदाहरण वर्कफ़्लो देखा है. इससे आपको PAIR की गाइडबुक के कुछ नए संसाधनों को इस्तेमाल करने का तरीका पता चला है.

खास जानकारी

इस कोडलैब में, आपने ये सीखा:

उपयोगकर्ता की ज़रूरत को एआई की समस्या में बदलना
टास्क के लिए डेटासेट बनाना
उपयोगकर्ताओं को नई सुविधा के लिए ऑनबोर्ड करना
सिस्टम के बारे में बताना और उपयोगकर्ता की उम्मीदों को सेट करना
उपयोगकर्ता को गड़बड़ियों से आगे बढ़ने का तरीका बताएं
प्रॉडक्ट को बेहतर बनाने के लिए सुझाव/राय देना या शिकायत करना

आगे क्या करना है?

इस कोडलैब में हाइलाइट किए गए सभी संसाधन और इनके अलावा कई अन्य संसाधन, आपको यहां दिए गए लिंक पर मिलेंगे: