Android पर TensorFlow Lite की मदद से, फूलों की पहचान करें

1. परिचय

657431be3173fa86.png android.png

ध्यान दें: इस कोडलैब को टेस्ट करने के लिए, किसी डिवाइस की ज़रूरत होती है

TensorFlow, एक मल्टीपर्पज़ मशीन लर्निंग फ़्रेमवर्क है. TensorFlow का इस्तेमाल, क्लाउड में मौजूद क्लस्टर में बड़े मॉडल को ट्रेन करने से लेकर, आपके फ़ोन जैसे एम्बेड किए गए सिस्टम पर मॉडल को स्थानीय तौर पर चलाने तक, कहीं भी किया जा सकता है.

इस कोडलैब में, Android डिवाइस पर इमेज की पहचान करने वाले मॉडल को चलाने के लिए, TensorFlow Lite का इस्तेमाल किया जाता है.

Android Studio 4.1 या इसके बाद का वर्शन इंस्टॉल करना

अगर आपने इसे पहले से इंस्टॉल नहीं किया है, तो TensorFlow Lite मॉडल को ट्रेन करते समय, AndroidStudio 4.1 या इसके बाद का वर्शन डाउनलोड और इंस्टॉल करें.

आपको क्या सीखने को मिलेगा

  • TensorFlow Lite Model Maker का इस्तेमाल करके, इमेज क्लासिफ़ायर को अपनी पसंद के मुताबिक ट्रेन करने का तरीका.
  • CameraX का इस्तेमाल करके, Android ऐप्लिकेशन में कस्टम मॉडल को इंटिग्रेट करने के लिए, TensorFlow Lite मॉडल को Android Studio में इंपोर्ट करने का तरीका.
  • मॉडल को बेहतर बनाने के लिए, फ़ोन पर जीपीयू का इस्तेमाल कैसे करें.

आपको क्या बनाना है

यह एक सामान्य कैमरा ऐप्लिकेशन है. इसमें TensorFlow का इमेज पहचानने वाला प्रोग्राम चलता है. इससे फूलों की पहचान की जाती है.

f11c2821f2c8311d.png

लाइसेंस: इसे बिना शुल्क के इस्तेमाल किया जा सकता है

2. Colab का इस्तेमाल करके, फूलों की पहचान करने वाले मॉडल को ट्रेन करना

मॉडल की ट्रेनिंग शुरू करने से पहले, Android Studio 4.1 या इसके बाद का वर्शन डाउनलोड और इंस्टॉल करें.

Colab खोलें. इसमें बताया गया है कि TensorFlow Lite ट्रांसफ़र लर्निंग का इस्तेमाल करके, फूलों की पहचान करने के लिए Keras की मदद से क्लासिफ़ायर को कैसे ट्रेन किया जाता है.

3. वर्किंग डायरेक्ट्री सेट अप करना

Git रिपॉज़िटरी को क्लोन करना

नीचे दी गई कमांड, Git रिपॉज़िटरी को क्लोन करेगी. इसमें इस कोडलैब के लिए ज़रूरी फ़ाइलें मौजूद हैं:

git clone https://github.com/hoitab/TFLClassify.git

इसके बाद, उस डायरेक्ट्री पर जाएं जहां आपने अभी-अभी डेटा संग्रह स्थान को क्लोन किया है. इस कोडलैब के बाकी बचे हिस्से में, आपको इस पर काम करना होगा:

cd TFLClassify

4. Android का स्केलेटन ऐप्लिकेशन सेट अप करना

android.png

Android Studio 4.1 या इसके बाद का वर्शन इंस्टॉल करना

अगर आपने इसे पहले से इंस्टॉल नहीं किया है, तो AndroidStudio 4.1 या इसके बाद का वर्शन इंस्टॉल करें.

Android Studio में प्रोजेक्ट खोलना

Android Studio में कोई प्रोजेक्ट खोलने के लिए, यह तरीका अपनाएं:

  1. Android Studio 7f2480ded53a193b.png खोलें. लोड होने के बाद, इस पॉप-अप में "मौजूदा प्रोजेक्ट खोलें" को चुनें:

f3b8bea7e3b39376.png

  1. फ़ाइल चुनने वाले टूल में, अपनी वर्किंग डायरेक्ट्री से TFLClassify/build.gradle चुनें.
  1. प्रोजेक्ट को पहली बार खोलने पर, आपको "Gradle Sync" पॉप-अप दिखेगा. इसमें Gradle Wrapper का इस्तेमाल करने के बारे में पूछा जाएगा. "ठीक है" पर क्लिक करें.

d68b4d7189e6c1e4.png

  1. अगर आपने पहले से डेवलपर मोड और यूएसबी डीबगिंग की सुविधा चालू नहीं की है, तो अपने फ़ोन पर इसे चालू करें. इसे सिर्फ़ एक बार सेट अप करना होगा. इन निर्देशों का पालन करें.
  2. जब आपका प्रोजेक्ट और फ़ोन, दोनों तैयार हो जाएं, तब इसे किसी असली डिवाइस पर चलाया जा सकता है. इसके लिए, TFL_Classify.start को चुनें और टूलबार पर मौजूद 'चलाएं' बटन 86934b7b01ad7565.png दबाएं:

60a77ef126c1373d.png

  1. अब Tensorflow Demo को कैमरा ऐक्सेस करने की अनुमति दें:

b63cba02bb36b7e3.png

  1. आपको अपने फ़ोन पर यह स्क्रीन दिखेगी. इसमें, असली नतीजों की जगह पर कोई भी नंबर दिखेगा.

82c603596afa35f1.png

5. Android ऐप्लिकेशन में TensorFlow Lite जोड़ना

  1. बाईं ओर मौजूद प्रोजेक्ट एक्सप्लोरर में, start मॉड्यूल चुनें:

cede7f2b8b23c1a7.png

  1. start मॉड्यूल पर राइट क्लिक करें या File पर क्लिक करें. इसके बाद, New > Other > TensorFlow Lite Model पर क्लिक करें

bf243d9fdd27e20a.png

  1. मॉडल की वह जगह चुनें जहां आपने पहले कस्टम ट्रेनिंग वाला FlowerModel.tflite डाउनलोड किया था.

cfee18cc6674a408.png

  1. Finish पर क्लिक करें.
  2. आखिर में, आपको यह दिखेगा. FlowerModel.tflite को इंपोर्ट कर लिया गया है. इसमें मॉडल के बारे में ज़्यादा जानकारी दी गई है. जैसे, इनपुट / आउटपुट और कुछ सैंपल कोड, ताकि आप इसका इस्तेमाल शुरू कर सकें.

82840065f0d59def.png

6. ज़रूरी नहीं: सभी कामों की सूची देखना

'क्या-क्या करना है' सूची की मदद से, उस जगह पर आसानी से पहुंचा जा सकता है जहां आपको कोडलैब अपडेट करना है. इसका इस्तेमाल अपने Android प्रोजेक्ट में भी किया जा सकता है, ताकि आपको आने वाले समय में किए जाने वाले काम के बारे में याद दिलाया जा सके. कोड में टिप्पणियों का इस्तेमाल करके, 'करने के लिए काम' वाले आइटम जोड़े जा सकते हैं. इसके लिए, TODO कीवर्ड टाइप करें. काम की सूची को ऐक्सेस करने के लिए, यह तरीका अपनाएं:

  1. हम क्या करने वाले हैं, यह जानने का सबसे अच्छा तरीका है कि आप 'क्या करना है' सूची देखें. इसके लिए, सबसे ऊपर मौजूद मेन्यू बार में जाकर View > Tool Windows > TODO को चुनें

5de29b413574f25c.png

  1. डिफ़ॉल्ट रूप से, यह सभी मॉड्यूल में मौजूद 'करना है' टैग किए गए सभी आइटम की सूची दिखाता है. इससे थोड़ी उलझन हो सकती है. हम सिर्फ़ स्टार वाले TODO को क्रम से लगा सकते हैं. इसके लिए, TODO पैनल के साइड में मौजूद 'ग्रुप बनाएं' बटन पर क्लिक करें और Modules चुनें

5d8fe7b102340208.png

  1. स्टार्ट मॉड्यूल में मौजूद सभी आइटम को बड़ा करें:

8d0f14a039995b20.png

7. TensorFlow Lite की मदद से कस्टम मॉडल चलाना

  1. TODO सूची में TODO 1 पर क्लिक करें या MainActivity.kt फ़ाइल खोलें और TODO 1 ढूंढें. इसके बाद, यह लाइन जोड़कर मॉडल को शुरू करें:
private class ImageAnalyzer(ctx: Context, private val listener: RecognitionListener) :
        ImageAnalysis.Analyzer {

  ...
  // TODO 1: Add class variable TensorFlow Lite Model
  private val flowerModel = FlowerModel.newInstance(ctx)

  ...
}
  1. CameraX Analyzer के analyze तरीके में, हमें कैमरे के इनपुट ImageProxy को Bitmap में बदलना होगा. साथ ही, अनुमान लगाने की प्रोसेस के लिए TensorImage ऑब्जेक्ट बनाना होगा.
override fun analyze(imageProxy: ImageProxy) {
  ...
  // TODO 2: Convert Image to Bitmap then to TensorImage
  val tfImage = TensorImage.fromBitmap(toBitmap(imageProxy))
  ...
}
  1. इमेज को प्रोसेस करें और नतीजे पर ये कार्रवाइयां करें:
  • score एट्रिब्यूट के तहत, संभावना के हिसाब से नतीजों को घटते क्रम में लगाएं. इसमें सबसे ज़्यादा संभावना वाले नतीजे सबसे पहले दिखेंगे.
  • MAX_RESULT_DISPLAY कॉन्स्टेंट के हिसाब से, टॉप k नतीजे लें. ज़्यादा या कम नतीजे पाने के लिए, इस वैरिएबल की वैल्यू में बदलाव किया जा सकता है.
override fun analyze(imageProxy: ImageProxy) {
  ...
  // TODO 3: Process the image using the trained model, sort and pick out the top results
  val outputs = flowerModel.process(tfImage)
      .probabilityAsCategoryList.apply {
          sortByDescending { it.score } // Sort with highest confidence first
      }.take(MAX_RESULT_DISPLAY) // take the top results

  ...
}
  1. क्रम से लगाए गए और फ़िल्टर किए गए नतीजों को डेटा ऑब्जेक्ट में बदलें Recognition ताकि RecyclerView उन्हें डेटा बाइंडिंग के ज़रिए इस्तेमाल कर सके:
override fun analyze(imageProxy: ImageProxy) {
  ...
  // TODO 4: Converting the top probability items into a list of recognitions
  for (output in outputs) {
      items.add(Recognition(output.label, output.score))
  }
  ...
}
  1. नीचे दी गई लाइनों को मिटा दें या उन पर टिप्पणी करें. इनकी वजह से हमें पहले फ़र्ज़ी नतीजे दिखते थे:
// START - Placeholder code at the start of the codelab. Comment this block of code out.
for (i in 0..MAX_RESULT_DISPLAY-1){
    items.add(Recognition("Fake label $i", Random.nextFloat()))
}
// END - Placeholder code at the start of the codelab. Comment this block of code out.
  1. असली डिवाइस पर ऐप्लिकेशन चलाने के लिए, TFL_Classify.start को चुनें. इसके बाद, टूलबार पर मौजूद 'चलाएं' बटन 86934b7b01ad7565.png को दबाएं:

60a77ef126c1373d.png

  1. आपको अपने फ़ोन पर यह स्क्रीन दिखेगी. इसमें असली नतीजों की जगह पर कुछ भी लिखा होगा:

f11c2821f2c8311d.png

8. ज़रूरी नहीं: जीपीयू डेलिगेट की मदद से अनुमान लगाने की प्रोसेस को तेज़ करना

TensorFlow Lite, आपके फ़ोन या टैबलेट पर अनुमान लगाने की प्रोसेस को तेज़ करने के लिए, कई हार्डवेयर ऐक्सलरेटर के साथ काम करता है. GPU, ऐक्सलरेटर में से एक है. TensorFlow Lite, डेलिगेट मैकेनिज़्म के ज़रिए इसका फ़ायदा ले सकता है. साथ ही, इसे इस्तेमाल करना काफ़ी आसान है.

  1. start मॉड्यूल में जाकर, build.gradle खोलें. इसके अलावा, TODO सूची में जाकर TODO 5 पर क्लिक करके भी यह डिपेंडेंसी जोड़ी जा सकती है:
// TODO 5: Optional GPU Delegates    
implementation 'org.tensorflow:tensorflow-lite-gpu:2.3.0'
  1. MainActivity.kt फ़ाइल पर वापस जाएं या TODO की सूची में मौजूद TODO 6 पर क्लिक करें. flowerModel को शुरू करने के सामान्य तरीके को इससे बदलें: जीपीयू के साथ काम करने वाले डिवाइसों की सूची का इंस्टेंस पाएं और जीपीयू को इस आधार पर शुरू करें कि वह सूची में शामिल जीपीयू में से एक है या नहीं. इसके अलावा, मॉडल को चलाने के लिए चार सीपीयू थ्रेड शुरू करें:
private class ImageAnalyzer(ctx: Context, private val listener: RecognitionListener) :
        ImageAnalysis.Analyzer {
  ...

  // TODO 1: Add class variable TensorFlow Lite Model
  // Initializing the flowerModel by lazy so that it runs in the same thread when the process
  // method is called.
  private val flowerModel: FlowerModel by lazy{

    // TODO 6. Optional GPU acceleration
    val compatList = CompatibilityList()

    val options = if(compatList.isDelegateSupportedOnThisDevice){
        Log.d(TAG, "This device is GPU Compatible ")
        Model.Options.Builder().setDevice(Model.Device.GPU).build()
    } else {
        Log.d(TAG, "This device is GPU Incompatible ")
        Model.Options.Builder().setNumThreads(4).build()
    }

  ...
}
  1. इस सुविधा का इस्तेमाल करने के लिए, मॉडल इनिशियलाइज़र को बदलें. इसके लिए, options को तरीके के इनपुट में जोड़ें:
private class ImageAnalyzer(ctx: Context, private val listener: RecognitionListener) :
        ImageAnalysis.Analyzer {

  private val flowerModel: FlowerModel by lazy{

    ...

    // Initialize the Flower Model
    FlowerModel.newInstance(ctx, options)
  }
}
  1. असली डिवाइस पर ऐप्लिकेशन चलाने के लिए, TFL_Classify.start को चुनें. इसके बाद, टूलबार पर मौजूद 'चलाएं' बटन 86934b7b01ad7565.png को दबाएं:

60a77ef126c1373d.png

9. आगे क्या करें?

ज़्यादा जानकारी के लिए यहां कुछ लिंक दिए गए हैं: