Mit dem PAIR Guidebook und der MakerSuite einen Prototyp für Responsible AI entwickeln

1. Hinweis

MakerSuite besteht aus einer Reihe von Tools, mit denen Sie Prototypen mit Large Language Models direkt im Browser erstellen können, ohne dass eine Einrichtung erforderlich ist. Mit MakerSuite können Sie Prompts schnell testen und dann eine API erstellen, auf die Ihre App direkt zugreifen kann. So können Teams schnell erstklassige Anwendungen auf der Grundlage von generativer KI bereitstellen. Das PAIR-Handbuch (People + AI Research) bietet Anleitungen zum Entwickeln eines neuen Produkts mit KI. Der Schwerpunkt liegt auf einer menschenzentrierten Datennutzung und dem Vertrauen der Nutzer. Dieser Leitfaden für die Verwendung von MakerSuite ist relevant.

In diesem Codelab lernen Sie, wie Sie diese beiden Ressourcen gemeinsam nutzen, um eine verantwortungsvolle KI-basierte Umgebung zu entwickeln. Der Schwerpunkt des Codelabs liegt auf dem verantwortungsvollen Prototyping mit generativer KI, nicht auf dem End-to-End-Workflow dieser spezifischen Ressourcen. Informationen zum allgemeinen Workflow für MakerSuite finden Sie in dieser grundlegenden Anleitung für MakerSuite. Im PAIR Guidebook finden Sie eine umfassendere Anleitung zum Entwerfen von KI-Produkten.

Voraussetzungen

  • Grundlegendes Verständnis von KI
  • Kenntnisse über den Workflow der Produktentwicklung.

Aufgaben in diesem Lab

  • Mit dem PAIR-Guidebook herausfinden, wie gut Ihre KI für verschiedene Zielgruppen funktioniert und wie Sie herausfinden, bei welchen Aufgaben KI eingesetzt werden sollte und welche nicht.
  • Generative KI-Funktionen erstellen, die auf den vielfältigen Möglichkeiten der Nutzer*innen basieren kultureller Praktiken.
  • Hier erfahren Sie, wie Sie Chancen in den KI-Entwicklungsprozess einbinden, um das Vertrauen der Nutzer zu gewinnen, indem Sie sich auf nutzerseitige Erklärbarkeit konzentrieren.
  • Hier erfahren Sie, wie Sie ein breiteres Toolkit mit Materialien für Generative AI und personenorientierten KI-Ressourcen für die weitere Erkundung verwenden.

Inhalt

In diesem Codelab lernen Sie einen praxisorientierten Prototyping-Prozess für verantwortungsbewusste generative KI kennen, während Sie ein Tool für kreatives Schreiben entwickeln. Wenn Sie möchten, können Sie die von Ihnen entworfenen Prompts sogar in Wordcraft einbinden, einen KI-gestützten Open-Source-Texteditor, der von Google als Forschungsprototyp veröffentlicht wurde.

Voraussetzungen

  • Browser
  • Google-Konto haben, um auf MakerSuite zuzugreifen

2. Einrichten

MakerSuite

MakerSuite besteht aus einer Reihe von Google-Tools, mit denen Sie Prototypen mit Large Language Models direkt über den Browser erstellen können. Eine Einrichtung ist nicht erforderlich. Sie können schnell Modelle testen und mit verschiedenen Prompts experimentieren. Wenn Sie mit einem Modell etwas erstellt haben, mit dem Sie zufrieden sind, können Sie es ganz einfach als Python-Code exportieren und dann dieselben Modelle über die Generative Language API aufrufen.

Wenn Sie mit MakerSuite mit Large Language Models experimentieren möchten, registrieren Sie sich für die Warteliste.

Forschungsleitfaden für „People + AI“

Das PAIR-Handbuch (People + AI Research) ist eine Ressource, die Entwickler, Designer, Produktmanager, Lernende und viele andere dabei unterstützt, KI verantwortungsvoll zu nutzen.

Das PAIR Guidebook kann Ihnen und Ihrem Team dabei helfen, eine Liste mit zentralen Fragen zu KI – einschließlich generativer KI – in Ihrem Produkt zu erstellen.

  • Wann und wie sollte ich KI in meinem Produkt verwenden?
  • Wie kann ich Nutzern helfen, Vertrauen in mein KI-System aufzubauen?
  • Wie erläutere ich Nutzern mein KI-System?
  • Wie können KI-Erlebnisse kulturell inklusiv und gerechtigkeitsorientiert sein?

In diesem Codelab verwenden Sie das PAIR-Guidebook, um Fragen für das Prototyping zu entwickeln und aus verschiedenen Designoptionen auszuwählen.

Code für Wordcraft abrufen (optional)

Wordcraft ist ein KI-basierter Texteditor, der im Google Research-Team entwickelt wurde und das gemeinsame Schreiben von Geschichten durch Menschen und KI erforscht. Der Wordcraft-Code ist Open Source. Du kannst also in diesem Codelab selbst mit Prompts experimentieren.

  • Verwenden Sie den folgenden Befehl, um den Code für Wordcraft abzurufen:
git clone https://github.com/pair-code/wordcraft

Alternativ können Sie die ZIP-Datei herunterladen:

Noch offen

3. Generative KI beim Schreiben von Geschichten verwenden

Ein Large Language Model (LLM) ist ein KI-Modell, das mit großen Mengen an Text aus Büchern, Artikeln und Websites trainiert wird, um Grammatik, gängige Sätze und andere Informationen zu erlernen. Basierend auf diesen Daten und mit zusätzlicher Feinabstimmung kann ein LLM wie PaLM viele Aufgaben der künstlichen Intelligenz anhand einfacher Anweisungen erledigen, anstatt eine ausgefeilte Machine-Learning-Programmierung zu erfordern. Außerdem lassen sich damit Fragen beantworten, Informationen zusammenfassen, Sprachen übersetzen und viele andere KI-Aufgaben ausführen.

In diesem Codelab verwenden Sie ein LLM, um den Prototyp einer App zu erstellen, mit der Autoren Geschichten schreiben können. PaLM LLM von Google bietet nicht nur allgemeine Informationen über die Welt, die Grammatik usw., sondern wurde auch dafür entwickelt, den Anweisungen oder Prompts von Nutzern zu folgen. Um einen Prototyp für Ihr Tool in MakerSuite zu erstellen, bringen Sie Ihrem Modell bei, was als durch eine Nutzeraufforderung angestoßene Antwort zu schreiben ist.

Mit Text-Prompts in MakerSuite KI-gestützte Geschichten schreiben

  1. Um einen Prompt zu erstellen, klicken Sie im linken Bereich auf Neu erstellen und wählen Sie Text-Prompt aus. Beginnen Sie mit diesem Prompt:
You are a talented fiction author. Write a story about a given topic.
Topic: {{topic}}

Wenn Sie diesen Prompt eingeben, erkennt MakerSuite, dass {{topic}} eine Eingabe für den Prompt ist, und öffnet den Bereich Prompt testen, damit Sie sehen können, wie er mit verschiedenen Eingaben funktioniert.

  1. Geben Sie A boy discovers a lost cat in his yard ein, klicken Sie dann auf das Steuerfeld „Modell“ (rechts neben der Schaltfläche Ausführen) und wählen Sie die Temperatur 0.8 aus.
  2. Klicken Sie abschließend auf Ausführen, um die Eingabeaufforderung auszuführen. In Kürze sollte die Prompt-Ausgabe in der Tabelle zu sehen sein.

Wenn Sie die Temperatureinstellung auf 0.8 festlegen, teilen Sie dem Modell mit, dass Sie Vielfalt in der Ausgabe bevorzugen. Das führt zu mehr Creative-Geschichten, aber jedes Mal, wenn das Creative ausgeführt wird. Wenn Sie jedes Mal genau die gleiche Ausgabe wünschen, legen Sie die Temperatur auf 0 fest.

Eine mögliche Ausgabe sieht so aus:

Henry sat on the edge of his porch and swung his legs back and forth. A small cat ran in front of him. Henry petted the cat. The cat began to purr. Henry picked up the cat and placed it on his lap. The cat began to snuggle close to him. Henry decided to keep the cat.
  1. Versuchen Sie, den Prompt mehrmals auszuführen, und sehen Sie sich die verschiedenen Storys an, die erstellt werden.

Screenshot des Makersuite-Editors In der Ansicht wird oben der Prompt angezeigt, darunter die Tabelle „Test your prompt“ mit Testeingaben.

Wie Sie sehen können, schreibt das Modell eine strukturierte Story, die logisch fließt, trifft aber auch mehrere Annahmen. Im Mittelpunkt der Geschichte steht beispielsweise ein Junge namens Henry. Sie können diese Annahmen ändern, indem Sie den Namen unseres Protagonisten angeben oder sogar angeben, ob sich die Geschichte auf das Kätzchen oder den Menschen konzentrieren soll.

  1. Aktualisieren Sie die Aufforderung und klicken Sie dann auf Ausführen, um zu sehen, wie sie mit allen Testeingaben funktioniert.

Mithilfe des PAIR Guidebook die Aufgaben identifizieren, die sich am besten für KI-Unterstützung eignen

Bisher wird davon ausgegangen, dass das KI-Modell eine vollständige Geschichte mit nur einer kurzen Beschreibung schreibt. Aber ist das die richtige Designentscheidung für Ihr Kreativtool? Stellen Sie sich zum Beispiel einen Assistenten vor, der Autoren hilft, Teile einer Geschichte ihrer Wahl umzuschreiben. Für diese Interaktion können Sie beispielsweise einen Prototyp in MakerSuite erstellen, um das Story-Fragment dramatischer zu gestalten.

Dies ermöglicht eine viel gezieltere Unterstützung, da Absätze gleichzeitig neu geschrieben werden. Auf einer höheren Ebene und mit ein paar Änderungen an Ihrem Prompt können Sie einen Prototyp eines Tools zur Nutzererweiterung statt eines Tools zur Aufgabenautomatisierung erstellen.

Das PAIR Guidebook bietet eine konstruktive Möglichkeit, Fragen wie diese im KI-Entwicklungsprozess zu stellen und zu beantworten. Während Sie mit MakerSuite schnell Prototypen erstellen können, können Sie mit dem PAIR Guidebook Designentscheidungen auf die vielversprechendsten für Ihre Zwecke und die Zielgruppe eingrenzen, die Sie ansprechen möchten. Im Leitfaden erfährst du, ob Ergänzung oder Automatisierung der richtige Ansatz für die Zusammenarbeit mit KI bei der Entwicklung deiner App ist.

Beginnen Sie mit der Leitfrage Wie sollte ich KI verwenden? im Guidebook. Wie in diesem Leitfaden-Muster vermerkt, ist es besser, KI zu verwenden, wenn sie einen eindeutigen Mehrwert bietet. Da LLMs mit vielen Daten zur Grammatik, allgemeinen Phrasen und anderen Informationen aus dem Internet trainiert werden, kann es nützlich sein, die Fähigkeit des Modells zu nutzen, die Welt der Geschichte zu verstehen, die Sie in der Ausgabe Ihrer Schreib-App beschreiben möchten, und Möglichkeiten zum Umschreiben vorschlagen. Dies baut auf dem Muster für personalisierte Empfehlungen im Guidebook auf.

Gehen Sie einen Schritt weiter. Das PAIR Guidebook enthält ein Kapitel zu Nutzeranforderungen mit Hinweisen dazu, ob Aufgaben automatisiert oder erweitert werden sollten.

Wenn Sie über Erweiterung oder Automatisierung nachdenken, denken Sie daran, dass Ihr Prototyp eine hilfreiche App für Autoren sein soll. Es scheint also wahrscheinlich, dass Ihre Nutzenden gern schreiben, sie selbst Verantwortung für ihren Text übernehmen möchten und während ihrer Lebensdauer Vorlieben haben, die möglicherweise schwer zu kommunizieren sind. Zusammengenommen deutet dies darauf hin, dass ein Erweiterungsansatz die vielversprechendere Option sein könnte.

Basierend auf dem PAIR-Guidebook kann es sinnvoll sein, die App, für die Sie einen Prototyp erstellen, nicht als Tool zum Schreiben, sondern zum Umschreiben zu betrachten. Sie können beispielsweise den Prompt ändern, um verschiedene Schreibstile zu berücksichtigen.

  1. Neuen Text-Prompt erstellen:
Edit the paragraph below. Make it \{\{rewrite style\}\}. Only respond with the updated text. Do not include any explanation.

Paragraph: {{paragraph}}

Hier sind sowohl \{\{rewrite style\}\} als auch {{paragraph}} Texteingaben.

  1. Probieren Sie im Testbereich eine Reihe von Umformungsstilen aus, z. B. kürzer, dramatischer, witziger, grammatikalisch weniger unangenehm oder poetisch.

Design für Geschichten aus aller Welt

Bisher haben Sie den Prompt Einen Absatz neu schreiben mit Geschichten getestet, die keinen starken kulturellen Kontext haben. Beim Entwerfen von Responsible AI-Lösungen ist es oft nützlich, eine Vielzahl von Eingaben auszuprobieren.

Probieren Sie eine Reihe von Testeingaben aus, z. B.:

  • In einer ruhigen Ecke eines charmanten Pariser Cafés genossen ein einzelner Besucher den Duft von frisch gebrühtem Kaffee. Seine Gedanken schweben in einen längst vergessenen Moment, der sein Leben für immer veränderte.
  • Inmitten der chaotischen Energie eines Nahverkehrszugs in Mumbai sprach eine Frau mittleren Alters mit einem Fremden. Wie faszinierend es für sie war, in derselben Stadt zu leben und ein ganz anderes Leben zu führen.
  • Inmitten des geschäftigen Chaos auf einem geschäftigen Straßenmarkt in Shanghai nahm sich ein Streetfood-Verkäufer einen Moment Zeit, um das Auf und Ab der Menge zu beobachten.

Experimentieren Sie verantwortungsvoll mit anderen kulturellen und geografischen Kontexten und vermeiden Sie unfaire Voreingenommenheit und historische Stereotype. Das LLM kennt sich zwar in vielen Teilen der Welt mit vorhandenen Daten aus, die online gefunden wurden, liefert aber möglicherweise nicht alle Details zu einem bestimmten geografischen Ort. Wie im PAIR Guidebook vermerkt ist, ist es bei Erweiterungsaufgaben wichtig, den Nutzern Kontrolle zu geben. Sie können beispielsweise die Umformulierungsfunktionen Ihres Prototyps erweitern, um mehr Kontrolle über die Handlung und die Details der Geschichte zu haben.

Viele generative Modelle gehen manchmal auch von Standardannahmen aus, was zum Teil auf Muster zurückzuführen ist, die in ihren riesigen Trainings-Datasets mit Online-Informationen häufiger vorkommen. Es ist wichtig zu wissen, dass Modelle dazu bewegt werden können, andere, ebenso gültige Annahmen zu treffen. Für den obigen Prompt zum Umformulieren eines Absatzes kannst du beispielsweise ein Geschlecht für den Fremden im Zug angeben, indem du den Umformulierungsstil änderst und dazu „kürzer. Denken Sie auch daran, dass die Fremde eine Frau ist.“

4. Vertrauen aufbauen

Ohne dass selbst die innovativsten KI-Funktionen ungenutzt bleiben. Vertrauen entsteht dadurch, dass sich Nutzer:innen fühlen, dass die KI fähig, zuverlässig und hilfreich ist. Wenn die Nutzenden Vertrauen aufbauen, kann das sie dazu bewegen, zu lernen, wie und wann sie bestimmte Funktionen verwenden. Dies kann zu einer besseren User Experience führen.

Im PAIR Guidebook finden Nutzer einige Anregungen dazu, wie sehr sie KI-Systemen vertrauen sollten:

Frühzeitig Vertrauen aufbauen

Bei der generativen KI ist es besonders nützlich, die Absicht der Funktionen zu kommunizieren und Nutzern die Einschränkungen der KI zu vermitteln. Da Language Models beispielsweise in erster Linie darauf ausgelegt sind, vorherzusagen, was als Nächstes im Text kommt, sind sie möglicherweise nicht immer sachlich korrekt. Daher ist es wichtig, den Nutzenden zu vermitteln, dass dieser Prototyp eine kreative Schreibhilfe ist und nicht faktenbasiert sein soll. Wenn Nutzer Faktenchecks durchführen möchten, die sachlich korrekt sein sollen, sollten sie online über vertrauenswürdige Ressourcen suchen.

Brainstormen Sie einige verschiedene Möglichkeiten, wie Sie Nutzenden helfen können, zu verstehen, dass dieser Prototyp nicht zum Schreiben von Sachinformationen, sondern speziell für das Schreiben von Belletristik gedacht ist.

Vertrauen bewahren

Generative KI-Modelle sind zwar sehr leistungsfähig, aber Nutzer können für viele spezifische Anwendungsfälle nicht immer prüfen, ob Aufgaben richtig ausgeführt werden. Bei diesem Prototyp geht es beispielsweise um die gezielte Vervollständigung von Text und das gezielte Umschreiben von Fiktion – Funktionen, die Nutzende leicht verifizieren können. Im Gegensatz dazu können generative Modelle leicht dazu aufgefordert werden, große Textabschnitte umzuschreiben, aber Nutzende können kleine Fehler übersehen, die sich möglicherweise eingeschleust haben. Im Allgemeinen hilft es, ihr Vertrauen zu gewinnen, wenn sich interaktive Generative AI-Funktionen auf Aufgaben konzentrieren, die Nutzer leicht verifizieren können.

Eine letzte Gelegenheit, Vertrauen aufrechtzuerhalten, ist die Steuerung generativer Modelle. Im Gegensatz zu früheren KI-Modellen, die für eine eng gefasste Aufgabe entwickelt wurden, lassen sich Ausgaben generativer Modelle für Endnutzer viel einfacher anpassen (wie das zeigt, wenn Sie nach dramatischeren, kürzeren oder ähnlichen Umformulierungen fragen). Eine solche Steuerung kann zwar zu einer besseren User Experience führen, sollte jedoch darauf achten, diese Steuerung innerhalb der Funktionen des Modells zu beschränken. In diesem Prototyp könnten Sie zum Beispiel, anstatt die Nutzenden nach Möglichkeiten zum Umschreiben von Texten zu fragen, eine Liste mit Umformulierungsanweisungen anbieten, die sich als gut funktionieren lassen, sowie Vorschläge für den Endnutzer.

Von Vertrauensverlust wiederherstellen

Trotz aller Bemühungen kann es vorkommen, dass das Modell suboptimale Ergebnisse liefert. In diesen Fällen ist es wichtig, dass Nutzer KI-Aktionen rückgängig machen können. Außerdem ist es oft besser, Funktionen mit variabler Leistung zu identifizieren und nur auszulösen, wenn Nutzer explizit KI-Unterstützung anfordern.

  • Überlegen Sie, wie Sie Funktionen zum Rückgängigmachen erstellen oder das Vertrauen der Nutzer auf andere Weise wiederherstellen können.

Lösungen für diese Herausforderungen finden Sie in der Codelab-Lösung.

5. Zusammenfassung

Bisher haben Sie mit Prompts in MakerSuite experimentiert. Wenn Sie mit diesen Prompts zufrieden sind, verwenden Sie sie direkt in Ihrem Prototyp.

  • Speichern Sie zuerst den Prompt und klicken Sie dann rechts oben auf Code abrufen. Falls noch nicht geschehen, müssen Sie außerdem Ihren API-Schlüssel aktivieren. Klicken Sie dazu im angezeigten Dialogfeld Code abrufen auf API-Schlüssel aktivieren.

Die Makersuite-Symbolleiste Die Schaltfläche „Code abrufen“ befindet sich oben rechts.

MakerSuite generiert Code, den Sie direkt in Ihrer Anwendung verwenden können. Wenn Sie beispielsweise eine Webanwendung verwenden, wählen Sie den JavaScript-Code aus. Sie können den Code direkt aus dem Dialogfeld kopieren und in Ihre Webanwendung einfügen. Wenn Sie Ihren Prompt in MakerSuite aktualisieren, denken Sie daran, ihn in Ihrem Code mit der Variablen für die Eingabeaufforderung im enthaltenen Code zu aktualisieren.

Dialogfeld mit einem von Makersuite generierten Code. Nutzer können cURL-, JavaScript- oder Python-Bibliotheken verwenden oder die Prompt-Informationen im JSON-Format abrufen.

Wenn Sie diese API in eine vordefinierte App zum kreativen Schreiben integrieren möchten, können Sie den Wordcraft-Code herunterladen.

Codelab-Lösung

Sie können den Code für Wordcraft von GitHub abrufen:

git clone https://github.com/pair-code/wordcraft

Alternativ können Sie das Repository als ZIP-Datei herunterladen:

6. Glückwunsch

Sie haben das Codelab Mit dem PAIR Guidebook und MakerSuite Prototyping Responsible AI erlernen abgeschlossen und gelernt, wie Sie mit einigen Google-Tools Prototypen für Responsible AI-Anwendungen erstellen (in diesem Fall für eine App zum Schreiben von Creatives). Wir sind gespannt auf deine Ideen!

Weitere Informationen