לומדים איך ליצור אב טיפוס של בינה מלאכותית אחראית בעזרת המדריך של PAIR ו-MakerSuite

1. לפני שמתחילים

MakerSuite היא קבוצת כלים שמאפשרים ליצור אב טיפוס עם מודלים גדולים של שפה ישירות מהדפדפן – ללא צורך בהגדרה. בעזרת MakerSuite, אפשר לעבור מהתנסות מהירה של הנחיות ליצירת ממשק API שהאפליקציה יכולה לגשת אליו ישירות. כך צוותים יכולים לספק במהירות אפליקציות מעולות שמבוססות על בינה מלאכותית גנרטיבית. המדריך למחקר אנשים ו-AI (PAIR) כולל הדרכה לעיצוב מוצר חדש באמצעות AI, תוך התמקדות בנוהלי טיפול בנתונים במרכזי אדם ובהשגת אמון המשתמשים – הנחיות שרלוונטיות לשימוש ב-MakerSuite.

בשיעור ה-Codelab הזה תלמדו איך להשתמש בשני המשאבים האלה יחד כדי לפתח חוויית AI אחראית. המטרה של Codelab היא ליצור אב טיפוס בצורה אחראית באמצעות AI גנרטיבי, ולא בתהליך העבודה מקצה לקצה במשאבים הספציפיים האלה. מידע נוסף על תהליך העבודה הכללי ב-MakerSuite, אפשר לעיין במדריך הבסיסי הזה ל-MakerSuite, וגם לעיין במדריך של PAIR להדרכה מקיפה יותר לעיצוב מוצרי AI.

דרישות מוקדמות

• הבנה בסיסית של AI.
• ידע מסוים בתהליך העבודה של פיתוח מוצרים.

מה תלמדו

• איך להשתמש במדריך PAIR כדי לבדוק עד כמה חוויות ה-AI שלכם מתאימות לקהלים שונים, ואיך לדעת אילו משימות כדאי או לא כדאי להשתמש ב-AI.
• איך יוצרים חוויות של בינה מלאכותית גנרטיבית שנעזרות בהמון המשתמשים שיטות תרבותיות.
• איך לשלב הזדמנויות בתהליך פיתוח ה-AI כדי לזכות באמון המשתמשים, על ידי התמקדות בהסברים שהמשתמש יכול לראות.
• איך להשתמש בערכת כלים רחבה יותר של חומרים מ-AI גנרטיבי ומשאבי AI ממוקדי אדם כדי לבחון את הנושא לעומק.

מה תפַתחו

בשיעור הזה תקבלו הדרכה מעשית ליצירת אב טיפוס של בינה מלאכותית גנרטיבית האחראית על פיתוח כלי כתיבה יצירתית. אפשר אפילו לשלב את ההנחיות האלה שמעצבים ב-Wordcraft, כלי בקוד פתוח לעריכת טקסט שמבוסס על AI ופורסם כאב-טיפוס מחקרי של Google.

מה צריך להכין

• דפדפן
• חשבון Google, כדי לגשת אל MakerSuite

2. להגדרה

MakerSuite

MakerSuite היא קבוצה של כלים של Google שמאפשרת ליצור אב טיפוס עם מודלים גדולים של שפה ישירות מהדפדפן – ללא צורך בהגדרה. אתם יכולים לנסות מודלים במהירות ולהתנסות בהנחיות שונות. אחרי שאתם מפתחים תוכן שמתאים לכם, אתם יכולים לייצא אותו בקלות כקוד Python ואז לשלוח קריאה לאותם המודלים באמצעות ה-API לשפה גנרטיבית.

כדי להתנסות במודלים גדולים של שפה באמצעות MakerSuite, צריך להירשם לרשימת ההמתנה.

המדריך לאנשים + מחקר בנושא AI

המדריך למחקר בינה מלאכותית (PAIR) הוא מקור מידע שעוזר למפתחים, למעצבים, למנהלי מוצר, לתלמידים ולאנשים רבים אחרים להשתמש ב-AI באופן אחראי.

המדריך PAIR יכול לעזור לכם ולצוות שלכם לפתח רשימה של שאלות מפתח שקשורות ל-AI, כולל בינה מלאכותית גנרטיבית, במוצר שלכם.

• מתי ואיך כדאי להשתמש ב-AI במוצר שלי?
• איך אוכל לעזור למשתמשים לבנות אמון במערכת ה-AI שלי?
• איך מסבירים למשתמשים את מערכת ה-AI שלי?
• איך חוויות השימוש ב-AI יכולות להיות שמעודדות את קבלת האחר מבחינה תרבותית ומתאימות לשוויון?

תוכלו להשתמש במדריך PAIR (מדריך PAIR) במהלך ה-Codelab הזה כדי לפתח שאלות ליצירת אב טיפוס ולבחור מבין אפשרויות עיצוב שונות.

קבלת הקוד ל-Wordcraft (אופציונלי)

Wordcraft הוא כלי לעריכת טקסט מבוסס-AI שפותח במסגרת צוות המחקר של Google, ובוחן כתיבת סיפורים משותפת על ידי בני אדם ו-AI. הקוד של Wordcraft הוא קוד פתוח, כך שאתם יכולים להתנסות בעצמכם בהנחיות ב-Codelab הזה.

• כדי לקבל את הקוד ל-Wordcraft, משתמשים בפקודה הבאה:

git clone https://github.com/pair-code/wordcraft

לחלופין, אפשר להוריד את קובץ ה-ZIP:

טרם נקבע

3. שימוש ב-AI גנרטיבי לכתיבת סיפורים

מודל שפה גדול (LLM) הוא מודל AI שמאומן על כמויות עצומות של טקסט מספרים, מאמרים ואתרים כדי ללמוד דקדוק, ביטויים נפוצים ומידע אחר. על סמך הנתונים האלה ובעוד כמה כוונון, מודל שפה גדול (LLM) כמו PaLM יכול להשלים הרבה משימות של בינה מלאכותית (AI) על סמך הוראות פשוטות, במקום לדרוש תכנות מתוחכם של למידת מכונה. הוא יכול גם לענות על שאלות, לסכם מידע, לתרגם שפות ולבצע הרבה משימות AI נוספות.

ב-Codelab הזה משתמשים ב-LLM כדי ליצור אב טיפוס של אפליקציה שעוזרת למחברים לכתוב סיפורים. בנוסף לקבלת מידע כללי על העולם, הדקדוק ועוד, LLM של Google מיועד לפי הוראות או הנחיות למשתמשים. לכן, כדי ליצור אב טיפוס של הכלי ב-MakerSuite, אתם מלמדים את המודל מה לכתוב כתשובה, בעקבות הנחיה של המשתמש.

כתיבת סיפורים בסיוע AI באמצעות הנחיות טקסט ב-MakerSuite

1. כדי ליצור הנחיה, לוחצים על יצירת חדש בחלונית הימנית ובוחרים באפשרות הנחיית טקסט. מתחילים עם ההנחיה הזו:

You are a talented fiction author. Write a story about a given topic.
Topic: {{topic}}

אחרי שמזינים את ההנחיה הזו, מערכת MakerSuite מזהה ש-{{topic}} הוא קלט להנחיה ופותחים חלונית בדיקת ההנחיה, כדי לראות איך ההנחיה עובדת עם מגוון סוגי קלט.

2. מזינים את הערך A boy discovers a lost cat in his yard, לוחצים על חלונית המודל (משמאל ללחצן הפעלה) ובוחרים את הטמפרטורה להיות 0.8.
3. לסיום, לוחצים על Run כדי להריץ את ההנחיה. הפלט של ההנחיה אמור להופיע בטבלה תוך כמה רגעים.

אם בוחרים את הערך 0.8 בהגדרת הטמפרטורה, המודל מעדיפים את המגוון התרבותי בפלט שלו. אם תעשו זאת, תקבלו סיפורים יצירתיים יותר, אבל יהיו להם פלט שונה בכל פעם שמריצים אותם. אם רוצים לקבל את אותו הפלט בכל פעם, צריך להגדיר את הטמפרטורה ל-0.

אחד מהפלטים האפשריים הוא:

Henry sat on the edge of his porch and swung his legs back and forth. A small cat ran in front of him. Henry petted the cat. The cat began to purr. Henry picked up the cat and placed it on his lap. The cat began to snuggle close to him. Henry decided to keep the cat.

4. כדאי לנסות להריץ את ההנחיה כמה פעמים ולבחון את הסיפורים השונים שנוצרים.

כפי שאפשר לראות, המודל כותב סיפור מובנה שזורם באופן לוגי, אבל הוא מניח גם כמה הנחות. הסיפור מתמקד בילד בשם הנרי, למשל. אתם יכולים לשנות את ההנחות האלה על ידי ציון שם הגיבור שלנו או אפילו לציין אם אתם רוצים שהסיפור יתמקד בחתלתול או באדם.

5. מעדכנים את ההנחיה ולוחצים על Run כדי לראות איך הוא עובד עם כל רכיבי הקלט לבדיקה.

הערה: הפלט המדויק שמקבלים מהמודל משתנה מהפעלה אחת לאחרת.

בעזרת המדריך של PAIR, זיהוי המשימות שהכי מתאימות לקבלת עזרה ב-AI

עד עכשיו, ההנחה היא שמודל ה-AI כותב סיפור שלם שניתן לספק רק תיאור קצר. אבל האם זו ההחלטה הנכונה על העיצוב של כלי הקריאייטיב שלכם? למשל, דמיינו עוזר דיגיטלי שעוזר למחברים לשכתב חלקים מהסיפור שהם בוחרים. ניתן ליצור אב טיפוס של האינטראקציה הזו ב-MakerSuite, למשל, כדי להפוך את קטע הסיפור לדרמטי יותר.

כך ניתן לקבל עזרה ממוקדת הרבה יותר, ושכתוב פסקאות בכל פעם. ברמה גבוהה יותר, עם כמה שינויים בהנחיה, תוכלו ליצור אב טיפוס של כלי להגדלת משתמשים במקום כלי לאוטומציה של משימות.

במדריך PAIR אפשר למצוא דרך עקרונית לשאול שאלות כאלה ולענות עליהן בתהליך הפיתוח של AI. MakerSuite עוזר לכם ליצור אבות טיפוס במהירות, אבל המדריך PAIR מאפשר לכם לצמצם את אפשרויות העיצוב לאפשרויות המבטיחות ביותר, בהתאם לצרכים שלכם ולקהל שרוצים למשוך. במדריך הזה תבינו אם השילוב בין הרחבה או אוטומציה הוא הדרך הנכונה לשתף פעולה עם AI לפיתוח האפליקציה שלכם.

מתחילים בשאלה המנחה איך כדאי להשתמש ב-AI? במדריך. כפי שנאמר בדפוס הזה במדריך, עדיף להשתמש ב-AI כשיש לו ערך ייחודי. במקרה כזה, מכיוון שמודלים מסוג LLM מאומנים לעיין בהרבה נתונים לגבי דקדוק, ביטויים נפוצים ומידע נוסף מהאינטרנט, יכול להיות שכדאי להיעזר ביכולת של המודל להבין את עולם הסיפור שאתם רוצים לתאר בפלט של האפליקציה לכתיבה ולהציע דרכים לשכתוב אותו. השיטה הזו מבוססת על דפוס ההמלצות המותאמות אישית במדריך.

לוקחים את זה צעד אחד קדימה. במדריך PAIR מפורט על צורכי המשתמשים הנחיות לגבי האופן שבו משימות צריכות להיות אוטומטיות או משופרות.

כשאתם שוקלים הרחבה או אוטומציה, חשוב לזכור שאב הטיפוס נועד לעזור לכותבים. לכן נראה שהמשתמשים נהנים מכתיבה, רוצים לקבל בעלות אישית על הכתיבה שלהם, ויש להם העדפות לאורך חיי כתיבה שקשה להם להעביר אותן. על סמך הנתונים האלה, אפשר להסיק שגישת הגדלה עשויה להיות האפשרות המבטיחה יותר.

על סמך המדריך בנושא PAIR, כדאי לחשוב על יצירת האב טיפוס של אפליקציה בתור כלי לכתיבה ולא כלי לשכתוב. לדוגמה, תוכלו לשנות את ההנחיה כדי לאפשר סגנונות שונים של כתיבה.

1. יצירה של הנחיית טקסט חדשה:

Edit the paragraph below. Make it \{\{rewrite style\}\}. Only respond with the updated text. Do not include any explanation.

Paragraph: {{paragraph}}

כאן גם \{\{rewrite style\}\} וגם {{paragraph}} הם קלט טקסט.

2. בחלונית הבדיקה אפשר לנסות כמה סגנונות שכתובים, כמו קצר יותר, דרמטי יותר, שנון יותר, פחות מביך דקדוקי, פואטי וכן הלאה.

עיצוב לסיפורים מרחבי העולם

עד עכשיו, בדקתם את ההנחיה לשכתוב פסקה עם סיפורים ללא הקשר תרבותי ברור. כשמעצבים חוויות שימוש אחראיות של בינה מלאכותית, לעיתים קרובות מומלץ לנסות מגוון רחב של מקורות מידע.

נסו להזין כמה קלטים לבדיקה, למשל:

• בפינה שקטה של בית קפה פריזאי ייחודי, פטרון בודד הנאה מהריח של קפה שהוכן לאחרונה, ומחשבותיו נסחפים אל רגע נשכח לתמיד ששינה את מהלך חייו.
• על רקע האנרגיה הכאוטית של רכבת מקומית במומבאי, אישה בגילי העמידה התחילה בשיחה עם אדם זר. כמה מרתק, היא חשבה לגור באותה עיר ויש חיים שונים כל כך.
• בתוך הכאוס השוקק בשוק הרחוב של שנגחאי, מוכר של מזון רחוב הקדיש רגע כדי לצפות בשפל ובזרם הקהל.

כדאי להתנסות באופן אחראי בהקשרים תרבותיים וגיאוגרפיים אחרים, ולהימנע מהטיה לא הוגנת ומסטריאוטיפים היסטוריים. הערה: אמנם ל-LLM יש ידע על אזורים רבים בעולם על סמך נתונים קיימים שנמצאו באינטרנט, אבל יכול להיות שהוא לא יקבל את כל הפרטים בצורה נכונה לגבי מקום גיאוגרפי מסוים. כמו שמוסבר במדריך PAIR, חשוב להציע למשתמשים שליטה במשימות ההגדלה. למשל, תוכלו להרחיב את יכולות השכתוב של אב הטיפוס כדי לקבל שליטה רבה יותר על העלילה ועל פרטי הסיפור.

מודלים גנרטיביים רבים לפעמים גם מציגים הנחות ברירת מחדל, בין היתר בגלל דפוסים נפוצים יותר במערכי הנתונים העצומים של מידע מקוון לאימון שלהם. חשוב לדעת שניתן לכוונן את המודלים כדי להניח הנחות אחרות תקפות באותה מידה. לדוגמה, בהנחיה ששלחת לשכתוב פסקה שלמעלה, ניתן לציין מגדר עבור אדם זר ברכבת על ידי שינוי סגנון השכתוב: "קצר יותר. כדאי לזכור שגם הזר הוא אישה."

4. בניית אמון

ללא נתוני משתמשים כמה אמון, יכול להיות שאפילו יכולות ה-AI החדשניות ביותר לא יהיו בשימוש. אמון נובע מכך שמשתמשים מרגישים שה-AI מוכשר, אמין ומועיל. כשאתם עוזרים למשתמשים לפתח אמון, אתם יכולים לעודד אותם ללמוד איך ומתי להשתמש בתכונות ספציפיות, ולשפר את חוויית המשתמש באופן כללי.

במדריך PAIR אפשר למצוא כמה רעיונות שיעזרו למשתמשים להחליט עד כמה כדאי לסמוך על מערכות AI:

בניית אמון בשלב מוקדם

השימוש ב-AI גנרטיבי עוזר במיוחד להסביר את הכוונה של התכונות ולעזור למשתמשים להבין את המגבלות של ה-AI. לדוגמה, מאחר שמודלים של שפה מיועדים בעיקר לחזות מה יהיה הטקסט הבא אחרי הטקסט, הם לא תמיד יהיו מדויקים מבחינה עובדתית. לכן חשוב לעזור למשתמשים להבין שאב-טיפוס הזה הוא כלי עזר לכתיבה יוצרת, והוא לא מיועד לספק עובדות. אם המשתמש רוצה לבדוק עובדות אם הוא רוצה להיות תואם לעובדות, עליו לחפש באינטרנט דרך מקורות מידע מהימנים.

תן לי רעיונות לכמה דרכים שונות שבהן אפשר לעזור למשתמשים להבין שאב-טיפוס הזה לא מיועד לכתיבת מידע עובדתי, אלא לכתיבת ספרות בדיונית.

שמירה על אמון

באופן דומה, למודלים של בינה מלאכותית גנרטיבית יש יכולות גבוהות, אבל משתמשים לא תמיד יכולים לוודא שמשימות בוצעו כראוי בתרחישים לדוגמה ספציפיים. לדוגמה, אב הטיפוס הזה מיועד להשלמה ממוקדת של טקסט ולשכתוב ממוקד של סיפור בדיוני – יכולות שמשתמשים יכולים לאמת בקלות. לעומת זאת, בעוד שבמודלים גנרטיביים אפשר לבקש בקלות לשכתב חלקים גדולים של טקסט, משתמשים עלולים לפספס שגיאות קלות שנגרמות. באופן כללי, התמקדות בתכונות אינטראקטיביות של AI גנרטיבי במשימות שהמשתמשים יכולים לאמת בקלות, עוזרת לרכוש את אמון המשתמשים.

הזדמנות אחרונה לשמור על אמון היא להשתמש ביציבות של מודלים גנרטיביים. בניגוד למודלים קודמים של AI שנועדו לבצע משימה מצומצמת, למשתמשי הקצה קל יותר להתאים אישית פלטים של מודלים גנרטיביים (כפי שמוצג כשמבקשים שכתובים דרמטיים, קצרים יותר או שכתובים דומים). כוונון כזה יכול להוביל לחוויית משתמש טובה יותר, אבל צריך להתייחס ליכולת היציבות הזו במסגרת היכולות של המודל. למשל, באב-טיפוס זה, במקום לבקש מהמשתמשים דרכים לשכתב את הטקסט שלהם, אפשר להציע למשתמש הקצה רשימה של הוראות לשכתוב העובדות היטב.

שחזור האמון שאבד

למרות המאמצים הרבים שלכם, יכול להיות שיהיו מקרים שבהם המודל יניב תוצאות לא אופטימליות. במקרים כאלה, חשוב לאפשר למשתמשים לבטל את כל פעולות ה-AI. באופן דומה, לעיתים קרובות עדיף לזהות תכונות שיש להן ביצועים משתנים ולהפעיל אותן רק כשמשתמשים מבקשים עזרה מבוססת-AI באופן מפורש.

• נסו לחשוב על כמה דרכים ליצירת תכונות לביטול הפעולה או דרכים אחרות לשחזור האמון של המשתמשים.

אפשר לראות פתרונות לאתגרים האלה בפתרון Codelab.

5. סיכום של כל המידע

עד עכשיו עבדת עם הנחיות ב-MakerSuite. אם תהיו מרוצים מההנחיות האלה, השתמשו בהן ישירות באב הטיפוס.

• קודם כול שומרים את ההנחיה ואז לוחצים על Get code (קבלת קוד) בפינה הימנית העליונה. אם עדיין לא עשיתם זאת, צריך להפעיל את מפתח ה-API גם באמצעות לחיצה על Enable API key בתיבת הדו-שיח קבלת קוד שמופיעה.

MakerSuite יוצר קוד שאפשר להשתמש בו ישירות באפליקציה. לדוגמה, לשימוש עם אפליקציית אינטרנט, בוחרים בקוד JavaScript. אפשר להעתיק את הקוד ישירות מתיבת הדו-שיח ולהדביק אותו באפליקציית האינטרנט. אם עדכנתם את ההנחיה ב-MakerSuite, הקפידו לעדכן אותה בקוד באמצעות משתנה ההנחיה בקוד הכלול.

כדי לשלב את ה-API הזה באפליקציה מוכנה מראש לכתיבה יצירתית, אפשר להוריד את הקוד של Wordcraft.

פתרון Codelab

אפשר לקבל את הקוד ל-Wordcraft מ-GitHub:

git clone https://github.com/pair-code/wordcraft

לחלופין, אפשר להוריד את המאגר כקובץ ZIP:

להורדת קובץ ZIP

6. מזל טוב

השלמתם את הקורס איך ליצור אב טיפוס של בינה מלאכותית אחראית בעזרת הקוד של PAIR Guidebook ו-Makelab, ולמדת איך ליצור אב-טיפוס של ממשק AI אחראי (במקרה הזה, לאפליקציה לכתיבה יצירתית) באמצעות כמה כלים של Google. אנחנו כבר ממש סקרניים לראות את הפיתוח שלך!

קריאה נוספת

• מדריך למשתמש של MakerSuite
• מדריך PAIR
• עקרונות ה-AI מבית Google