Document AI Workbench - Uptraining

1. مقدمه

Document AI راه حلی برای درک اسناد است که داده های بدون ساختار مانند اسناد، ایمیل ها و غیره را می گیرد و درک، تجزیه و تحلیل و مصرف داده ها را آسان تر می کند.

با استفاده از آموزش ارتقاء از طریق Document AI Workbench، می توانید با ارائه نمونه های برچسب دار اضافی برای انواع اسناد تخصصی و ایجاد یک نسخه مدل جدید، به دقت پردازش اسناد بالاتری دست یابید.

در این آزمایشگاه، شما یک پردازشگر تجزیه فاکتور ایجاد می‌کنید، پردازنده را برای آموزش بالا پیکربندی می‌کنید، اسناد نمونه را برچسب‌گذاری می‌کنید و پردازنده را ارتقا می‌دهید.

مجموعه داده سند مورد استفاده در این آزمایشگاه شامل فاکتورهایی است که به صورت تصادفی برای یک شرکت لوله کشی ساختگی تولید می شود.

توجه: Document AI Uptraining در حال حاضر در پیش نمایش است، و رابط کاربری کنسول ممکن است در طول زمان تغییر کند، بنابراین محیط شما ممکن است کمی متفاوت به نظر برسد. اگر مشکلی در این آزمایشگاه یافتید، لطفاً آن را گزارش کنید .

پیش نیازها

این کد لبه بر محتوای ارائه شده در سایر Codelab های هوش مصنوعی سند ساخته شده است.

توصیه می شود قبل از ادامه، Codelabs زیر را تکمیل کنید.

• تشخیص نوری کاراکتر (OCR) با هوش مصنوعی سند (پایتون)
• تجزیه فرم با هوش مصنوعی سند (پایتون)
• پردازنده های تخصصی با Document AI (Python)
• مدیریت پردازشگرهای هوش مصنوعی سند با پایتون
• سند هوش مصنوعی: انسان در حلقه

چیزی که یاد خواهید گرفت

• پیکربندی Uptraining برای پردازشگر تجزیه فاکتور.
• با استفاده از ابزار حاشیه نویسی، داده های آموزش هوش مصنوعی سند را برچسب گذاری کنید.
• آموزش نسخه مدل جدید.
• دقت نسخه مدل جدید را ارزیابی کنید.

آنچه شما نیاز دارید

• یک پروژه Google Cloud
• یک مرورگر، مانند کروم یا فایرفاکس

2. راه اندازی

این Codelab فرض می کند که شما مراحل تنظیم AI سند فهرست شده در Codelab مقدماتی را تکمیل کرده اید.

لطفا قبل از ادامه مراحل زیر را انجام دهید:

• Cloud Shell را راه اندازی کنید
• Document AI API را فعال کنید

3. یک پردازنده ایجاد کنید

ابتدا باید یک پردازشگر تجزیه فاکتور برای استفاده در این آزمایشگاه ایجاد کنید.

1. در کنسول، به صفحه نمای کلی Document AI بروید.

2. روی Create Processor کلیک کنید، به قسمت Specialized بروید (یا «Invoice Parser» را در نوار جستجو تایپ کنید) و Invoice Parser را انتخاب کنید.

3. نام codelab-invoice-uptraining را به آن بدهید (یا چیز دیگری که به خاطر خواهید آورد) و نزدیکترین منطقه را در لیست انتخاب کنید.

4. برای ایجاد پردازنده خود روی Create کلیک کنید. سپس باید صفحه نمای کلی پردازنده را ببینید.

4. یک مجموعه داده ایجاد کنید

برای آموزش پردازنده خود، باید یک مجموعه داده با داده های آموزشی و آزمایشی ایجاد کنیم تا به پردازنده کمک کنیم تا موجودیت هایی را که می خواهیم استخراج کنیم شناسایی کند.

برای ذخیره مجموعه داده ها باید یک سطل جدید در فضای ذخیره سازی ابری ایجاد کنید. توجه: این نباید همان سطلی باشد که اسناد شما در حال حاضر در آن ذخیره می شود.

1. Cloud Shell را باز کنید و دستورات زیر را برای ایجاد یک سطل اجرا کنید. از طرف دیگر، یک سطل جدید در Cloud Console ایجاد کنید . این نام سطل را ذخیره کنید، بعداً به آن نیاز خواهید داشت.

export PROJECT_ID=$(gcloud config get-value project)

gsutil mb -p $PROJECT_ID "gs://${PROJECT_ID}-uptraining-codelab"

2. به تب Dataset رفته و روی Create Dataset کلیک کنید

3. نام سطل را از سطلی که در مرحله اول ایجاد کردید در قسمت Destination Path قرار دهید. ( gs:// را درج نکنید)

4. منتظر بمانید تا مجموعه داده ایجاد شود، سپس باید شما را به صفحه مدیریت Dataset هدایت کند.

5. یک سند آزمایشی را وارد کنید

اکنون، بیایید یک نمونه فاکتور pdf را به مجموعه داده خود وارد کنیم.

1. روی Import Documents کلیک کنید

2. ما یک نمونه PDF برای استفاده در این آزمایشگاه برای شما داریم. لینک زیر را کپی کرده و در کادر Source Path قرار دهید. فعلاً «تقسیم داده» را به عنوان «تخصیص نشده» بگذارید. روی Import کلیک کنید.

cloud-samples-data/documentai/codelabs/uptraining/pdfs

3. صبر کنید تا سند وارد شود. این در تست های من کمتر از 1 دقیقه طول کشید.

4. وقتی وارد کردن کامل شد، باید سند را در رابط کاربری مدیریت Dataset ببینید. روی آن کلیک کنید تا وارد کنسول برچسب زدن شوید.

6. سند آزمون را برچسب بزنید

در مرحله بعد، عناصر و برچسب‌های متنی را برای موجودیت‌هایی که می‌خواهیم استخراج کنیم، شناسایی می‌کنیم. این برچسب‌ها برای آموزش مدل ما برای تجزیه این ساختار سند خاص و شناسایی انواع صحیح استفاده خواهند شد.

1. اکنون باید در کنسول برچسب زدن باشید که چیزی شبیه به این خواهد بود.

2. بر روی ابزار "انتخاب متن" کلیک کنید، سپس متن "McWilliam Piping International Piping Company" را برجسته کنید و برچسب supplier_name را اختصاص دهید. می توانید از فیلتر متن برای جستجوی نام برچسب ها استفاده کنید.

3. متن "14368 Pipeline Ave Chino, CA 91710" را برجسته کنید و برچسب supplier_address را اختصاص دهید.

4. متن "10001" را برجسته کنید و برچسب invoice_id اختصاص دهید.

5. متن "02-01-2020" را برجسته کنید و برچسب due_date اختصاص دهید.

6. به ابزار "Bounding Box" بروید. متن "Knuckle Couplers" را برجسته کنید و برچسب line_item/description را اختصاص دهید.

7. متن "9" را برجسته کنید و برچسب line_item/quantity را اختصاص دهید.

8. متن "74.43" را برجسته کنید و برچسب line_item/unit_price را اختصاص دهید.

9. متن "669.87" را برجسته کنید و برچسب line_item/amount را اختصاص دهید.

10. 4 مرحله قبلی را برای دو خط بعدی تکرار کنید. پس از تکمیل باید به این شکل باشد.

11. متن "1,419.57" (در کنار Subtotal) را برجسته کنید و برچسب net_amount اختصاص دهید.

12. متن "113.57" (در کنار Tax) را برجسته کنید و برچسب total_tax_amount را اختصاص دهید.

13. متن "1,533.14" (در کنار Total) را برجسته کنید و برچسب total_amount اختصاص دهید.

14. یکی از کاراکترهای "$" را برجسته کنید و currency برچسب را اختصاص دهید.

15. سند دارای برچسب پس از تکمیل باید به این شکل باشد. توجه داشته باشید، می‌توانید با کلیک بر روی کادر محدود در سند یا نام/مقدار برچسب در منوی سمت چپ، تنظیمات این برچسب‌ها را انجام دهید. پس از اتمام برچسب زدن روی ذخیره کلیک کنید.

16. در اینجا لیست کامل برچسب ها و مقادیر آمده است

نام برچسب	متن
supplier_name	شرکت لوله کشی بین المللی مک ویلیام
supplier_address	14368 Pipeline Ave Chino, CA 91710
invoice_id	10001
due_date	02-01-2020
line_item/description	جفت بند انگشتی
line_item/quantity	9
line_item/unit_price	74.43
line_item/amount	669.87
line_item/description	لوله پی وی سی 12 اینچ
line_item/quantity	7
line_item/unit_price	15.90
line_item/amount	111.30
line_item/description	لوله مسی
line_item/quantity	7
line_item/unit_price	91.20
line_item/amount	638.40
net_amount	1,419.57
total_tax_amount	113.57
total_amount	1,533.14
currency	$

7. تخصیص سند به مجموعه آموزشی

اکنون باید به کنسول مدیریت Dataset بازگردید. توجه داشته باشید که تعداد اسناد برچسب دار و بدون برچسب و همچنین تعداد برچسب های فعال تغییر کرده است.

1. ما باید این سند را به مجموعه "آموزش" یا "تست" اختصاص دهیم. روی Document کلیک کنید.

2. روی Assign to Set کلیک کنید، سپس روی Training کلیک کنید.

3. توجه داشته باشید که اعداد تقسیم داده ها تغییر کرده اند.

8. داده های از پیش برچسب گذاری شده را وارد کنید

Document AI Uptraining به حداقل 10 مدرک در هر دو مجموعه آموزشی و آزمایشی به همراه 10 نمونه از هر برچسب در هر مجموعه نیاز دارد.

توصیه می شود حداقل 50 سند در هر مجموعه با 50 نمونه از هر برچسب برای بهترین عملکرد داشته باشید. داده های آموزشی بیشتر به طور کلی با دقت بالاتر برابر است.

برچسب گذاری دستی 100 سند زمان زیادی طول می کشد، بنابراین ما تعدادی سند از پیش برچسب گذاری شده داریم که می توانید برای این آزمایشگاه وارد کنید.

می توانید فایل های سند از پیش برچسب گذاری شده را در قالب Document.json وارد کنید. اینها می توانند نتایج فراخوانی یک پردازنده و تأیید صحت با استفاده از Human in the Loop (HITL) باشند.

توجه: هنگام وارد کردن داده‌های از پیش برچسب‌گذاری‌شده، توصیه می‌شود قبل از آموزش یک مدل، حاشیه‌نویسی‌ها را به‌صورت دستی مرور کنید.

1. روی Import Documents کلیک کنید.

2. مسیر Cloud Storage زیر را کپی/پیست کنید و آن را به مجموعه آموزشی اختصاص دهید.

cloud-samples-data/documentai/codelabs/uptraining/training

3. روی Add Another Bucket کلیک کنید. سپس مسیر Cloud Storage زیر را کپی/پیست کرده و آن را به مجموعه تست اختصاص دهید.

cloud-samples-data/documentai/codelabs/uptraining/test

4. روی Import کلیک کنید و منتظر بمانید تا اسناد وارد شوند. این بیشتر از دفعه قبل طول می کشد زیرا اسناد بیشتری برای پردازش وجود دارد. در آزمایشات من، این حدود 6 دقیقه طول کشید. می توانید این صفحه را ترک کرده و بعداً برگردید.

5. پس از تکمیل، باید اسناد را در صفحه مدیریت Dataset مشاهده کنید.

9. برچسب ها را ویرایش کنید

اسناد نمونه ای که ما برای این مثال استفاده می کنیم حاوی هر برچسبی نیست که توسط تجزیه کننده فاکتور پشتیبانی می شود. قبل از آموزش باید برچسب هایی را که استفاده نمی کنیم به عنوان غیرفعال علامت گذاری کنیم. همچنین می‌توانید مراحل مشابهی را برای افزودن یک برچسب سفارشی قبل از Uptraining دنبال کنید.

1. روی Manage Labels در گوشه سمت چپ پایین کلیک کنید.

2. اکنون باید در کنسول مدیریت برچسب باشید.

3. از کادرهای چک و دکمه های غیرفعال / فعال کردن استفاده کنید تا فقط برچسب های زیر را به عنوان فعال علامت گذاری کنید.
   • currency
   • due_date
   • invoice_id
   • line_item/amount
   • line_item/description
   • line_item/quantity
   • line_item/unit_price
   • net_amount
   • supplier_address
   • supplier_name
   • total_amount
   • total_tax_amount
4. پس از تکمیل، کنسول باید به این شکل باشد. پس از اتمام روی ذخیره کلیک کنید.

5. برای بازگشت به کنسول مدیریت Dataset روی فلش Back کلیک کنید. توجه داشته باشید که برچسب هایی با 0 نمونه به عنوان غیرفعال علامت گذاری شده اند.

10. اختیاری: اسناد تازه وارد شده را به صورت خودکار برچسب گذاری کنید

هنگام وارد کردن اسناد بدون برچسب برای یک پردازنده با نسخه پردازنده موجود مستقر شده، می توانید از برچسب گذاری خودکار برای صرفه جویی در زمان در برچسب زدن استفاده کنید.

1. در صفحه Train ، روی Import Documents کلیک کنید.
2. مسیر زیر را کپی و جایگذاری کنید. این فهرست شامل 5 فایل پی دی اف فاکتور بدون برچسب است. از لیست کشویی تقسیم داده ، آموزش را انتخاب کنید.

   cloud-samples-data/documentai/Custom/Invoices/PDF_Unlabeled
   

3. در قسمت Auto-labeling ، چک باکس Import with auto-labeling را انتخاب کنید.
4. یک نسخه پردازنده موجود را برای برچسب گذاری اسناد انتخاب کنید.

• به عنوان مثال: pretrained-invoice-v1.3-2022-07-15

1. روی Import کلیک کنید و منتظر بمانید تا اسناد وارد شوند. می توانید این صفحه را ترک کرده و بعداً برگردید.

• پس از تکمیل، اسناد در صفحه Train در بخش Auto-Labeled ظاهر می شوند.

1. شما نمی توانید از اسناد دارای برچسب خودکار برای آموزش یا آزمایش بدون علامت گذاری آنها به عنوان برچسب استفاده کنید. برای مشاهده اسناد دارای برچسب خودکار به بخش Auto-Labeled بروید.
2. اولین سند را برای ورود به کنسول برچسب گذاری انتخاب کنید.
3. برچسب ها، جعبه های محدود کننده و مقادیر را بررسی کنید تا از درستی آنها اطمینان حاصل کنید. هر مقداری که حذف شده است را برچسب بزنید.
4. پس از اتمام علامت گذاری به عنوان برچسب زده شده را انتخاب کنید.
5. تأیید برچسب را برای هر سند دارای برچسب خودکار تکرار کنید، سپس به صفحه Train برگردید تا از داده ها برای آموزش استفاده کنید.

11. مدل را ارتقا دهید

اکنون، ما آماده ایم تا آموزش تجزیه کننده فاکتور خود را آغاز کنیم.

1. روی Train New Version کلیک کنید

2. به نسخه خود نامی بدهید که به خاطر بسپارید، مانند codelab-uptraining-test-1 . نسخه پایه نسخه مدلی است که این نسخه جدید از آن ساخته خواهد شد. اگر از یک پردازنده جدید استفاده می کنید، تنها گزینه باید Google Pretrained Next with Uptraining باشد

3. (اختیاری) همچنین می‌توانید مشاهده آمار برچسب‌ها را برای مشاهده معیارهای برچسب‌های موجود در مجموعه داده خود انتخاب کنید.

4. روی Start Training کلیک کنید تا فرآیند Uptraining شروع شود. شما باید به صفحه مدیریت Dataset هدایت شوید. می توانید وضعیت آموزش را در سمت راست مشاهده کنید. تکمیل آموزش چند ساعت طول می کشد. می توانید این صفحه را ترک کرده و بعداً برگردید.

5. اگر روی نام نسخه کلیک کنید، به صفحه مدیریت نسخه ها هدایت می شوید که شناسه نسخه و وضعیت فعلی شغل آموزشی را نشان می دهد.

12. نسخه جدید مدل را تست کنید

پس از تکمیل کار آموزشی (در تست های من حدود 1 ساعت طول کشید)، اکنون می توانید نسخه مدل جدید را آزمایش کنید و شروع به استفاده از آن برای پیش بینی کنید.

1. به صفحه مدیریت نسخه ها بروید. در اینجا می توانید وضعیت فعلی و امتیاز F1 را مشاهده کنید.

2. ما باید این نسخه مدل را قبل از استفاده از آن مستقر کنیم. روی نقاط عمودی سمت راست کلیک کنید و Deploy Version را انتخاب کنید.

3. هنگامی که منتظر بمانید تا نسخه گسترش یابد، از پنجره پاپ آپ Deploy را انتخاب کنید. چند دقیقه طول می کشد تا تکمیل شود. پس از استقرار، می توانید این نسخه را نیز به عنوان نسخه پیش فرض تنظیم کنید.

4. پس از اتمام استقرار، به برگه ارزیابی بروید. سپس بر روی منوی کشویی Version کلیک کنید و نسخه جدید ایجاد شده ما را انتخاب کنید.

5. در این صفحه، می‌توانید معیارهای ارزیابی شامل امتیاز F1، Precision و Recall را برای سند کامل و همچنین برچسب‌های فردی مشاهده کنید. می‌توانید درباره این معیارها در AutoML Documentation بیشتر بخوانید.
6. فایل پی دی اف را با لینک زیر دانلود کنید. این یک سند نمونه است که در مجموعه آموزشی یا آزمون گنجانده نشده است.

دانلود PDF

7. بر روی Upload Test Document کلیک کنید و فایل PDF را انتخاب کنید.

8. موجودیت های استخراج شده باید چیزی شبیه به این باشند.

13. نتیجه گیری

تبریک می‌گوییم، شما با موفقیت از Document AI برای ارتقای یک تجزیه‌کننده فاکتور استفاده کرده‌اید. اکنون می توانید از این پردازنده برای تجزیه فاکتورها استفاده کنید، همانطور که برای هر پردازنده تخصصی انجام می دهید.

برای بررسی نحوه رسیدگی به پاسخ پردازش می توانید به Codelab Processors Specialized مراجعه کنید.

پاکسازی

برای جلوگیری از تحمیل هزینه به حساب Google Cloud خود برای منابع استفاده شده در این آموزش:

• در Cloud Console، به صفحه مدیریت منابع بروید.
• در لیست پروژه، پروژه خود را انتخاب کنید و سپس روی Delete کلیک کنید.
• در گفتگو، ID پروژه را تایپ کنید و سپس بر روی Shut down کلیک کنید تا پروژه حذف شود.

منابع

• مستندات AI Workbench Document
• آینده اسناد - لیست پخش YouTube
• مستندات هوش مصنوعی
• کتابخانه مشتری پایتون AI سند
• نمونه های AI سند

مجوز

این اثر تحت مجوز Creative Commons Attribution 2.0 Generic مجوز دارد.