ساخت محصولات قابل اعتماد هوش مصنوعی با کتاب راهنمای PAIR

۱. قبل از شروع

در این آزمایشگاه کد، شما بهترین شیوه‌های نسخه جدید کتاب راهنمای تحقیقات مردم + هوش مصنوعی (PAIR) را برای طراحی یک محصول جدید با هوش مصنوعی، با تمرکز بر شیوه‌های داده انسان‌محور و اعتماد کاربر به درستی کالیبره شده، به کار خواهید گرفت.

پیش‌نیازها

  • درک اولیه از اینکه هوش مصنوعی چیست.
  • آشنایی با گردش کار توسعه محصول.

آنچه یاد خواهید گرفت

در این آزمایشگاه کد، شما یاد خواهید گرفت که چگونه از کتاب راهنمای People + AI گوگل ریسرچ برای ساخت محصولات هوش مصنوعی قابل اعتماد و کاربر محور استفاده کنید.

به طور خاص، شما:

  • با جدیدترین ویژگی‌های ویرایش دوم کتاب راهنمای PAIR آشنا شوید.
  • مجموعه‌ای از تمرین‌ها را انجام دهید که فرصت‌های موجود در فرآیند توسعه هوش مصنوعی را برای سنجش اعتماد کاربر، با تمرکز بر داده‌ها و قابلیت توضیح‌پذیری در مواجهه با کاربر، برجسته می‌کند.
  • با مجموعه‌ای گسترده‌تر از مطالب و منابع موجود برای کاوش بیشتر آشنا شوید.

آنچه نیاز دارید

۲. شروع کنید

ما امسال در کنفرانس Google I/O نسخه دوم کتاب راهنمای PAIR را معرفی می‌کنیم! نسخه اول دو سال پیش منتشر شد و از آن زمان تاکنون توسط بیش از ۲۵۰ هزار نفر در نقش‌های مختلف (توسعه‌دهندگان، طراحان، مدیران محصول، دانشجویان و غیره) در سراسر جهان مورد استفاده قرار گرفته است. اکنون مفتخریم که مجموعه‌ای از به‌روزرسانی‌ها را برای کاربردی‌تر کردن آن معرفی کنیم.

به طور خاص، در این ویرایش دوم، ما روش جدیدی برای پیمایش در کتاب راهنما و یافتن محتوا بر اساس وظیفه ارائه می‌دهیم. ما فهرستی از سوالات کلیدی که ممکن است شما و تیمتان هنگام توسعه محصولی با رویکرد کاربر محور به هوش مصنوعی داشته باشید، تهیه کرده‌ایم و این به شما کمک می‌کند تا محتوای مورد نیاز خود را در زمان نیاز پیدا کنید:

  1. چه زمانی و چگونه باید از هوش مصنوعی در محصول خود استفاده کنم؟
  2. چگونه می‌توانم مجموعه داده‌های خود را با مسئولیت‌پذیری بسازم؟
  3. چگونه می‌توانم به کاربران در ایجاد و تنظیم اعتماد به سیستم هوش مصنوعی خود کمک کنم؟
  4. چگونه می‌توانم کاربران را با ویژگی‌های جدید هوش مصنوعی آشنا کنم؟
  5. چگونه سیستم هوش مصنوعی خود را برای کاربران توضیح دهم؟
  6. تعادل مناسب بین کنترل کاربر و اتوماسیون چیست؟
  7. چگونه می‌توانم در صورت بروز مشکل، از کاربران پشتیبانی کنم؟

dd1277d752e60684.png

به محض اینکه یک سوال را انتخاب کنید، محتوای مرتبط را در واحدهای کوچک‌تر و کاربردی‌تر دریافت خواهید کرد.

ما همچنین کتاب راهنمای PAIR را با محتوای جدید به‌روزرسانی کرده‌ایم:

  1. مجموعه‌ای از الگوهای طراحی هوش مصنوعی
  2. مطالعات موردی
  3. فصل‌های به‌روز شده
  4. تمرین‌های جدید و بسته‌ی کارگاهی

در این آزمایشگاه کد، برخی از این الگوهای طراحی را در عمل در یک گردش کار مشاهده خواهید کرد، زیرا در حال توسعه یک ویژگی جدید با هوش مصنوعی هستید.

بیایید شروع کنیم!

۳. نیازهای کاربر را به یک مسئله هوش مصنوعی تبدیل کنید

سناریوی زیر را تصور کنید:

شما در حال توسعه یک اپلیکیشن تماشای فیلم هستید و می‌خواهید تجربه‌ای بهبود یافته و سفارشی‌سازی شده را در اختیار کاربران قرار دهید و به آنها کمک کنید فیلم‌های بیشتری را که از آنها لذت می‌برند، پیدا کنند.

صفحه فرود برنامه در حال حاضر شامل بخش‌های زیر است:

  • فهرست فیلم‌های جدید، به ترتیب تاریخ اکران
  • فهرستی از تمام فیلم‌ها، دسته‌بندی‌شده بر اساس ژانر
  • یک کادر جستجو، که در آن کاربران می‌توانند بر اساس عنوان فیلم، بازیگران و غیره جستجو کنند.

81efa53fac12f607.png

برنامه فیلم بدون توصیه‌های شخصی‌سازی‌شده

شما می‌خواهید یک بخش جدید با پیشنهاد فیلم برای کاربر اضافه کنید و فکر می‌کنید هوش مصنوعی می‌تواند گزینه خوبی برای پیاده‌سازی این ویژگی باشد. قبل از شروع هرگونه پیاده‌سازی، باید موارد زیر را انجام دهید:

  • گردش‌های کاری موجود را بررسی کنید : کاربران در حال حاضر چگونه با برنامه تعامل دارند و به نظر شما چگونه می‌توان تجربه آنها را بهبود بخشید؟
  • مشخص کنید که آیا هوش مصنوعی می‌تواند ارزش منحصر به فردی اضافه کند : آیا مشکل شما به مشکلی تبدیل می‌شود که بتوان آن را به خوبی با هوش مصنوعی حل کرد، و آیا هوش مصنوعی احتمالاً تجربه کاربری محصول شما را بهبود می‌بخشد؟

با استفاده از فصل « نیازهای کاربر + تعریف موفقیت » در کتاب راهنمای PAIR، فهرست موارد استفاده‌ای را که هوش مصنوعی احتمالاً راه‌حل خوبی برای آنها است، بررسی می‌کنید و متوجه می‌شوید که نیاز کاربران شما در دسته مشکلات زیر قرار می‌گیرد:

  • پیشنهاد محتوای متفاوت به کاربران مختلف
  • شخصی‌سازی، تجربه کاربری را بهبود می‌بخشد
  • نمایش محتوای پویا کارآمدتر از یک رابط کاربری قابل پیش‌بینی است

حتماً لیست مواردی را که هوش مصنوعی احتمالاً راه‌حل بهتری نیست، مرور کنید.

حالا که می‌بینید یک راهکار مبتنی بر هوش مصنوعی گزینه خوبی برای رفع این نیاز کاربر به نظر می‌رسد، باید ارزیابی کنید که آیا واقعاً تجربه کاربری بهتری ارائه می‌دهد یا خیر.

الگو:

17c84836936a7adc.png

قبل از شروع به ساخت با هوش مصنوعی، مطمئن شوید که محصول یا ویژگی مورد نظر شما به هوش مصنوعی نیاز دارد یا توسط آن بهبود می‌یابد.

هوش مصنوعی برای کاربردهایی مانند موارد زیر بسیار مناسب است:

  • پیشنهاد محتوای متفاوت به کاربران مختلف، مانند پیشنهاد فیلم
  • پیش‌بینی رویدادهای آینده، مانند رویدادهای آب و هوایی یا تغییرات قیمت پرواز
  • درک زبان طبیعی
  • تشخیص تصویر

یک راه حل مبتنی بر قانون یا اکتشاف ممکن است در موارد زیر بهتر باشد:

  • حفظ پیش‌بینی‌پذیری مهم است
  • کاربران، مشتریان یا توسعه‌دهندگان به شفافیت کامل نیاز دارند
  • مردم نمی‌خواهند کارشان خودکار شود

برای اطلاعات بیشتر در مورد زمان استفاده (یا عدم استفاده) از هوش مصنوعی، به فصل نیازهای کاربر مراجعه کنید .

لینک الگوی کامل: https://pair.withgoogle.com/guidebook/patterns#determine-if-ai-adds-value

شما می‌توانید با برجسته کردن فیلم‌هایی که هر کاربر احتمالاً از آنها لذت می‌برد، به ارزش برنامه بیفزایید و تجربه کاربری غنی‌تری را برای آنها فراهم کنید، نه اینکه فقط جدیدترین یا بهترین فیلم‌های دارای رتبه کلی را به آنها نشان دهید. همچنین گمان می‌کنید که با این ویژگی می‌توانید در زمان آنها برای کاوش در فهرست رو به رشد فیلم‌ها صرفه‌جویی کنید.

حالا که تصمیم گرفته‌اید با یک راهکار مبتنی بر هوش مصنوعی پیش بروید، آماده‌اید تا برای مراحل بعدی خود برنامه‌ریزی کنید.

۴. یک مجموعه داده برای کار بسازید

برای آموزش یک سیستم توصیه‌گر جهت ارائه پیشنهاد فیلم به کاربران، باید مجموعه‌ای از داده‌ها را جمع‌آوری کنید که مدل هوش مصنوعی شما از آنها یاد بگیرد.

اولین کاری که باید انجام دهید این است که نیازهای کاربر را با نیازهای داده‌ای تطبیق دهید.

با استفاده از تمرین تطبیق از فصل «جمع‌آوری داده‌ها + ارزیابی» در کتاب راهنمای PAIR، موارد زیر را تعیین می‌کنید:

  • کاربر : بینندگان فیلم (کاربران برنامه فیلم)
  • نیاز کاربر : پیدا کردن فیلم‌های بیشتر و مورد علاقه‌اش، آسان‌تر و سریع‌تر
  • اقدام کاربر : انتخاب و تماشای فیلم‌ها از طریق برنامه
  • خروجی سیستم هوش مصنوعی : کدام فیلم‌ها را پیشنهاد دهید و چرا (برچسب‌های احساسی یا برچسب‌ها)
  • یادگیری سیستم هوش مصنوعی : الگوهای رفتاری پیرامون پذیرش توصیه‌های فیلم، تماشای کل فیلم‌ها، نوشتن نقد برای فیلم‌ها و دادن امتیاز بالا به این فیلم‌ها
  • مجموعه داده‌های مورد نیاز : داده‌های مشاهده فیلم از برنامه، اطلاعات فیلم و رتبه‌بندی‌ها و نقدهای فیلم
  • ویژگی‌های کلیدی مورد نیاز در مجموعه داده‌ها : تنظیمات فیلم بیننده و سابقه مشاهده، اطلاعات فیلم (مثلاً ژانر، بازیگران)، رتبه‌بندی ستاره‌های فیلم، نقد فیلم
  • برچسب‌های کلیدی مورد نیاز در مجموعه داده‌ها : نرخ پذیرش یا رد پیشنهاد برنامه توسط بیننده، نرخ تکمیل فیلم توسط بیننده، رتبه‌بندی‌ها و نظرات بینندگان، و بازخورد بیننده در مورد دلیل رد شدن یک پیشنهاد

حالا که این تمرین را انجام داده‌اید، می‌توانید شاهد ظهور چندین منبع داده بالقوه باشید:

  • داده‌های کاربر از برنامه (تنظیمات برگزیده مشخص شده و سابقه مشاهده)
  • اطلاعات فیلم از برنامه (عنوان، سال، مدت زمان، بازیگران و غیره)
  • نقدها و اطلاعات رتبه‌بندی فیلم‌ها از منابع دیگر، مانند IMDB و MovieLens

وقتی ایده‌ای از نوع داده‌های مورد نیاز خود پیدا کردید، اصول هوش مصنوعی گوگل و شیوه‌های مسئولانه هوش مصنوعی را به عنوان نمونه‌هایی از چارچوب‌ها در نظر بگیرید تا به شما در بررسی ملاحظات کلیدی، مانند حریم خصوصی (مثلاً «فرصت‌هایی برای اطلاع و رضایت» فراهم کنید) و انصاف (مثلاً «انجام آزمایش‌های مکرر کاربر برای گنجاندن مجموعه متنوعی از نیازهای کاربران در چرخه‌های توسعه») کمک کند.

و در نهایت، هنگام آماده‌سازی مجموعه داده‌های آموزشی خود، مطمئن شوید که داده‌هایی را جمع‌آوری می‌کنید که واقع‌بینانه باشند و داده‌های «پر سر و صدا» موجود در جهان را منعکس کنند. برای مثال، مطمئن شوید که نقدهای فیلم با غلط‌های املایی، اختصارات، ایموجی‌ها و کاراکترهای غیرمعمول یا غیرمنتظره را نیز در نظر بگیرید، زیرا کاربران برنامه شما به احتمال زیاد در آینده نقدهای واقعی و «پر سر و صدا» مشابهی را ارائه خواهند داد، نه نقدهای کاملاً قالب‌بندی شده!

الگو:

4617730ca248f081.png

هنگام توسعه مجموعه داده‌های آموزشی خود، برای رسیدن به چیزی کاملاً گزینش‌شده تلاش نکنید. در عوض، اجازه دهید مقداری «نویز» وجود داشته باشد تا داده‌ها تا حد امکان به داده‌های دنیای واقعی که انتظار دارید از کاربران خود دریافت کنید، شبیه باشند. این می‌تواند به جلوگیری از خطاها و توصیه‌های بی‌کیفیت پس از انتشار مدل شما در دنیای واقعی کمک کند.

برای انجام این کار، در مورد انواع داده‌هایی که انتظار دارید از کاربران خود دریافت کنید فکر کنید و سپس مطمئن شوید که داده‌ها در مجموعه آموزشی شما نمایش داده می‌شوند.

برای مثال، برای یک سیستم تشخیص تصویر، داده‌هایی را که ممکن است از کاربران خود دریافت کنید در نظر بگیرید. اگر احتمال دارد که آنها وقت کافی برای گرفتن عکس‌های با کیفیت بالا نداشته باشند و مدل شما مجبور باشد با تصاویر تار گوشی‌های هوشمند کار کند، تصاویر تار را در داده‌های آموزشی خود لحاظ کنید.

لینک الگوی کامل: https://pair.withgoogle.com/guidebook/patterns#embrace-noisy-data

با نگاشت نیازهای کاربر به یک مسئله هوش مصنوعی و نیازهای مجموعه داده‌ها، شما آماده‌اید تا هوش مصنوعی را برای ارائه توصیه‌ها و برچسب‌گذاری فیلم‌ها برای کاربران برنامه خود آموزش دهید. اگرچه ما این بخش از فرآیند را در این آزمایشگاه کد پوشش نخواهیم داد، می‌توانید در منابع زیر درباره سیستم‌های توصیه و تحلیل احساسات اطلاعات بیشتری کسب کنید:

۵. قابلیت‌ها و محدودیت‌های سیستم را بیان کنید

همانطور که تجربه کاربری را برای برنامه خود طراحی می‌کنید، باید برای آشنایی کاربران با ویژگی جدید مبتنی بر هوش مصنوعی و کمک به آنها برای تعیین انتظارات مناسب برنامه‌ریزی کنید. کاربران نباید به طور ضمنی در همه شرایط به سیستم هوش مصنوعی شما اعتماد کنند، بلکه باید اعتماد خود را به درستی تنظیم کنند.

تعیین انتظارات برای کاربران، فرآیندی آگاهانه است که حتی قبل از اولین تعامل آنها با محصول شما آغاز می‌شود. شما باید توضیحاتی را در طول و خارج از تجربه محصول به روش‌های مختلف ارائه دهید:

  • در لحظه توضیح دهید. در صورت لزوم، دلایلی را برای استنتاج، توصیه، پیشنهاد و غیره ارائه دهید.
  • توضیحات اضافی را در محصول ارائه دهید . از سایر لحظات درون محصول، مانند معرفی اولیه، برای توضیح سیستم‌های هوش مصنوعی استفاده کنید.
  • فراتر از تجربه محصول بروید . اطلاعات درون محصول ممکن است کافی نباشد، اما می‌توانید آن را با منابع اضافی متنوعی مانند کمپین‌های بازاریابی برای افزایش آگاهی و مطالب آموزشی و کمپین‌های سوادآموزی برای توسعه مدل‌های ذهنی پشتیبانی کنید.

بیایید یک مثال بزنیم: کاربری وارد برنامه شده و یک فیلم پیشنهادی را از لیست جدیدی که به صفحه فرود او اضافه شده است، انتخاب می‌کند. علاوه بر اطلاعات معمول در مورد فیلم که می‌تواند انتظار داشته باشد در آنجا پیدا کند، ممکن است بخواهید توضیحی در مورد اینکه چرا این فیلم خاص را در لیست پیشنهادی خود می‌بیند، اضافه کنید.

با استفاده از جستجوی سوال در کتاب راهنمای PAIR و انتخاب «چگونه سیستم هوش مصنوعی خود را برای کاربران توضیح دهم؟»، الگوی زیر را پیدا می‌کنید: برای درک بیشتر توضیح دهید، نه برای کامل بودن.

الگو:

a75dc18115d636a9.png

هنگام توضیح توصیه‌های سیستم هوش مصنوعی خود، روی به اشتراک گذاشتن اطلاعاتی که کاربران برای تصمیم‌گیری و پیشرفت به آن نیاز دارند، تمرکز کنید. سعی نکنید هر اتفاقی که در سیستم می‌افتد را توضیح دهید.

اغلب، منطق پشت یک پیش‌بینی خاص ناشناخته یا بسیار پیچیده است که نمی‌توان آن را در یک عبارت یا جمله ساده خلاصه کرد. کاربران همچنین ممکن است نخواهند هنگام استفاده از محصول شما، با توضیحات اضافی سردرگم یا حواسشان پرت شود.

فصل « قابلیت توضیح + اعتماد» نمونه‌هایی از رویکردهای مختلف برای ارائه توضیحات مختصر و کاربرپسند ارائه می‌دهد که شامل توضیحات جزئی، افشای تدریجی و نمایش اعتماد به نفس مدل می‌شود.

اگر مایلید توضیحات طولانی‌تر یا جزئی‌تری از نحوه‌ی عملکرد کلی سیستم به اشتراک بگذارید، این کار را خارج از جریان فعال کاربر انجام دهید، مثلاً در مطالب بازاریابی یا محتوای معرفی.

لینک الگوی کامل: https://pair.withgoogle.com/guidebook/patterns#explain-for-understanding

با به‌کارگیری بهترین شیوه‌های ذکر شده در این الگو، تصمیم می‌گیرید توضیحی شبیه به این نمایش دهید:

a534f48eeffaaa40.png

پیشنهاد فیلم، شامل دلیل و منطق پیشنهاد

در این مثال توضیحی، شما از راهنمایی‌های کتاب راهنمای PAIR در مورد قابلیت توضیح + اعتماد استفاده می‌کنید و با استفاده از منابع داده، توضیحی را به کاربر ارائه می‌دهید که شامل سه نقد برتر کاربران است.

علاوه بر این، شما کلمات خاصی را که بیشترین تأثیر را در ایجاد حس مثبت نسبت به این فیلم داشته‌اند، برجسته کرده‌اید، که عواملی هستند که برای کاربر در انتخاب فیلم مهم هستند. می‌توانید در این نسخه آزمایشی برای ابزار تفسیر زبان (LIT) PAIR، درباره بررسی یک طبقه‌بندی‌کننده حس بیشتر بیاموزید.

b8fc8bd717f7742f.png

تصویر ابزار تفسیرپذیری یادگیری (LIT)

LIT می‌تواند به شما در بررسی رفتار مدل پردازش زبان طبیعی (NLP) از طریق یک ابزار بصری، تعاملی و قابل توسعه کمک کند، که به شما امکان می‌دهد فرضیه‌ها را آزمایش کرده و آنها را بر روی یک مجموعه داده با معیارهای مرتبط و توضیحات محلی (مثلاً نقشه‌های برجستگی و تجسم‌های پیش‌بینی) اعتبارسنجی کنید. تیم‌های محصول می‌توانند از LIT در موارد استفاده زیر استفاده کنند:

  • قبل از استقرار مدل
  • هنگام آزمایش انصاف
  • برای اشکال‌زدایی پیش‌بینی‌های فردی
  • وقتی یک مدل جدید را با مدل قدیمی مقایسه می‌کنید

۶. نحوه نمایش اعتماد به نفس را تعیین کنید

راه دیگر برای تعیین انتظارات کاربران می‌تواند نمایش میزان اطمینان مدل به توصیه‌ها باشد. نمایش میزان اطمینان مدل به جای بیان اینکه چرا یا چگونه هوش مصنوعی به یک تصمیم خاص رسیده است، نشان می‌دهد که هوش مصنوعی چقدر در پیش‌بینی خود و گزینه‌هایی که در نظر گرفته است، مطمئن است. از آنجایی که اکثر مدل‌ها می‌توانند طبقه‌بندی‌های n-بهترین و نمرات اطمینان را ارائه دهند، نمایش میزان اطمینان مدل اغلب توضیحی در دسترس است.

قبل از افزودن حس اطمینان به صفحات فیلم پیشنهادی نشان داده شده به کاربر، باید مشخص کنید که آیا این حس اطمینان برای کاربر مفید است یا خیر، و اگر چنین است، بهترین روش نمایش آن چیست.

الگو:

33a1b5ab6fff1c06.png

در برخی شرایط، می‌توانید با نمایش میزان اطمینان مدل که میزان اطمینان هوش مصنوعی در پیش‌بینی خود و گزینه‌های در نظر گرفته شده را توضیح می‌دهد، به کاربران کمک کنید تا میزان اعتماد به خروجی هوش مصنوعی را بسنجند .

با این حال، در زمینه‌های دیگر، درک نمایش‌های اعتماد به نفس می‌تواند برای کاربران چالش برانگیز باشد.

اگر تصمیم به استفاده از آنها دارید، انواع مختلف نمایشگرها را در اوایل فرآیند توسعه محصول آزمایش کنید تا ببینید چه چیزی برای کاربران شما بهتر عمل می‌کند.

لینک الگوی کامل: https://pair.withgoogle.com/guidebook/patterns#how-to-show-model-confidence

با بررسی رویکردهای پیشنهادی برای نمایش اعتماد به نفس در فصل «قابلیت توضیح + اعتماد» در کتاب راهنمای PAIR، گزینه‌های زیر را خواهید یافت:

  • N- محتمل‌ترین طبقه‌بندی‌ها
  • سطح اطمینان عددی

با توجه به اینکه شما لیستی از فیلم‌های پیشنهادی را در صفحه فرود کاربر در برنامه ارائه می‌دهید، یک لیست مرتب را انتخاب می‌کنید که در آن n فیلم با بیشترین احتمال به ترتیب نمایش داده می‌شوند.

8b3181335ece9a09.png

چرخ فلک فیلم‌های پیشنهادی، که محتمل‌ترین توصیه‌ها در ابتدا نمایش داده می‌شوند

۷. به کاربر راهی برای جلوگیری از خطاها بدهید

در چند مرحله‌ی آخر، شما برخی از بهترین شیوه‌ها را برای تعیین انتظارات و ارائه توضیحات به کاربران یاد گرفتید، زیرا به آنها کمک می‌کنید تا اعتماد خود را به محصول ایجاد و تنظیم کنند.

سوال مهم دیگری که باید به آن پاسخ دهید این است: تجربه کاربری هنگام بروز خطا چگونه است؟ نحوه پیشروی کاربران نیز به همان اندازه مهم است. تمرکز بر روی کاری که کاربران شما می‌توانند پس از خرابی سیستم انجام دهند، به آنها قدرت می‌دهد و در عین حال سودمندی محصول شما را حفظ می‌کند.

همانطور که در فصل «خطاها + شکست دلپذیر» در کتاب راهنمای PAIR توضیح داده شده است، شما باید با تعریف خطای محصول خود و نوع آن (کاربر، سیستم یا زمینه) شروع کنید.

مثال‌های زیر را در نظر بگیرید:

  1. کاربر فیلمی را که قبلاً در سینما دیده است، پیشنهاد دریافت می‌کند. اگرچه این پیشنهاد ممکن است بی‌فایده نباشد، اما واقعاً برای کاربر مفید هم نیست.
  2. کاربر فیلمی را که قبلاً در سینما دیده و دوست نداشته، پیشنهاد دریافت می‌کند. این پیشنهاد ممکن است بر اساس ترجیحات او در فیلم‌ها، به عنوان یک خطا برای کاربر تلقی شود.
  3. کاربر فیلمی در ژانری که معمولاً از آن لذت نمی‌برد، پیشنهاد دریافت می‌کند. ممکن است کاربر این را یک خطا بداند.
  4. کاربر فیلمی را پیشنهاد می‌دهد که دیگر در برنامه میزبانی نمی‌شود. این یک خطای سیستمی واضح است.

در مثال‌های دوم و سوم ذکر شده در بالا، هوش مصنوعی توصیه‌ای ارائه داده است که برای این کاربر مفید نیست. در صورت بروز چنین خطاهایی، شما باید به کاربر فرصتی برای ارائه بازخورد در مورد پیش‌بینی بدهید و زمان لازم برای تأثیرگذاری را، همانطور که در فصل «بازخورد + کنترل» در کتاب راهنمای PAIR توصیه شده است، به او اطلاع دهید.

الگو:

2a01f1bf6b24a241.png

وقتی سیستم مبتنی بر هوش مصنوعی شما به گونه‌ای رفتار می‌کند که کاربر انتظار یا تمایلی به آن ندارد، مطمئن شوید که آنها گزینه‌ای برای به اشتراک گذاشتن بازخورد دارند و تا حد امکان از آن بازخورد برای بهبود مدل خود استفاده کنید.

بازخورد در سیستم‌های هوش مصنوعی می‌تواند اشکال مختلفی داشته باشد، از جمله،

  • دادن شست بالا یا پایین به یک توصیه
  • پنهان کردن توصیه‌های ناخواسته
  • علامت‌گذاری یا گزارش توصیه‌های مشکل‌ساز
  • جریان‌های بازخورد سنتی‌تر، جایی که کاربر به صورت دستی از طریق یک فرم یا مکانیسم دیگر، مشکلی را گزارش می‌دهد

وقتی کاربری بازخورد می‌دهد، تأیید کنید که آن را دریافت کرده‌اید. در صورت امکان، به او اطلاع دهید که سیستم چگونه به بازخورد پاسخ خواهد داد.

لینک الگوی کامل: https://pair.withgoogle.com/guidebook/patterns#let-users-give-feedback

در مورد برنامه شما، این ممکن است به صورت زیر باشد:

e990b5a272085f20.png

کاربران می‌توانند در مورد توصیه‌ها بازخورد ارائه دهند...

f81d3f378792640f.png

... و آنها از اتفاقات بعدی مطلع می‌شوند

۸. تبریک

تبریک! شما به تازگی یک نمونه گردش کار را گذرانده‌اید که نحوه استفاده از برخی از منابع جدید کتاب راهنمای PAIR را به شما نشان می‌دهد.

خلاصه

در این آزمایشگاه کد، شما یاد گرفتید که چگونه:

  • ترجمه نیازهای کاربر به یک مسئله هوش مصنوعی
  • ساخت یک مجموعه داده برای کار
  • کاربران را با ویژگی جدید آشنا کنید
  • سیستم را توضیح دهید و انتظارات کاربر را تعیین کنید
  • به کاربر راهی برای جلوگیری از خطاها بدهید
  • جمع‌آوری بازخورد برای بهبود محصول

بعدش چی؟

شما می‌توانید تمام منابع برجسته شده در این آزمایشگاه کد و بسیاری دیگر را در لینک‌های زیر پیدا کنید: