Mit dem PAIR Guidebook und der MakerSuite einen Prototyp für Responsible AI entwickeln

1. Hinweis

MakerSuite ist eine Reihe von Tools, mit denen Sie direkt im Browser Prototypen mit Large Language Models erstellen können – ganz ohne Einrichtung. Mit MakerSuite können Sie schnell Prompts ausprobieren und eine API erstellen, auf die Ihre App direkt zugreifen kann. So können Teams schnell großartige Anwendungen auf Basis von generativer KI entwickeln. Das PAIR-Guidebook (People + AI Research) bietet Anleitungen zum Entwerfen eines neuen Produkts mit KI. Dabei wird der Fokus auf nutzerorientierte Datenpraktiken und das Gewinnen von Nutzervertrauen gelegt. Diese Anleitungen sind auch für die Verwendung von MakerSuite relevant.

In diesem Codelab erfahren Sie, wie Sie diese beiden Ressourcen kombinieren können, um verantwortungsbewusste KI-basierte Anwendungen zu entwickeln. Der Schwerpunkt des Codelabs liegt auf dem verantwortungsbewussten Prototyping mit generativer KI und nicht auf dem End-to-End-Workflow dieser spezifischen Ressourcen. Informationen zum allgemeinen Workflow für MakerSuite finden Sie in diesem grundlegenden Tutorial für MakerSuite. Ausführlichere Anleitungen zum Entwerfen von KI-Produkten finden Sie im PAIR-Guidebook.

Voraussetzungen

  • Grundkenntnisse im Bereich KI.
  • Grundkenntnisse des Workflows für die Produktentwicklung.

Lerninhalte

  • Wie Sie das PAIR Guidebook verwenden, um zu prüfen, wie gut Ihre KI-Anwendungen für verschiedene Zielgruppen funktionieren und welche Aufgaben mit KI erledigt werden sollten und welche nicht.
  • Wie Sie generative KI-Funktionen erstellen, die auf den vielfältigen kulturellen Praktiken der Nutzer basieren.
  • Wie Sie Möglichkeiten in den KI-Entwicklungsprozess integrieren, die das Vertrauen der Nutzer stärken, indem Sie sich auf die für Nutzer sichtbare Erklärbarkeit konzentrieren.
  • Wie Sie ein breiteres Toolkit mit generativen KI-Materialien und ressourcenorientierten KI-Ressourcen für weitere Recherchen nutzen können.

Umfang

In diesem Codelab wird ein praktischer Prototyping-Prozess für verantwortungsbewusste generative KI durchlaufen, während Sie ein Tool zum kreativen Schreiben entwerfen. Wenn Sie möchten, können Sie die von Ihnen erstellten Prompts sogar in Wordcraft einbinden, einem Open-Source-Texteditor mit KI, der von Google als Forschungsprototyp veröffentlicht wurde.

Voraussetzungen

  • Browser
  • Google-Konto für den Zugriff auf MakerSuite

2. Einrichten

MakerSuite

MakerSuite ist eine Reihe von Google-Tools, mit denen Sie Prototypen mit Large Language Models direkt im Browser erstellen können – ohne Einrichtung. Hier können Sie schnell Modelle testen und mit verschiedenen Prompts experimentieren. Wenn Sie mit einem Modell das gewünschte Ergebnis erzielt haben, können Sie es ganz einfach als Python-Code exportieren und dann dieselben Modelle mit der Generative Language API aufrufen.

Wenn Sie Large Language Models mit MakerSuite testen möchten, melden Sie sich für die Warteliste an.

People + AI Research Guidebook

Das PAIR-Guidebook (People + AI Research) ist eine Ressource, die Entwicklern, Designern, Produktmanagern, Studenten und vielen anderen dabei hilft, KI verantwortungsbewusst einzusetzen.

Das PAIR Guidebook kann Ihnen und Ihrem Team helfen, eine Liste mit wichtigen Fragen zu KI – einschließlich generativer KI – in Ihrem Produkt zu erstellen.

  • Wann und wie sollte ich KI in meinem Produkt einsetzen?
  • Wie kann ich Nutzern helfen, Vertrauen in mein KI-System aufzubauen?
  • Wie erkläre ich Nutzern mein KI-System?
  • Wie können KI-Anwendungen kulturell inklusiv und auf Gleichberechtigung ausgerichtet sein?

In diesem Codelab verwenden Sie das PAIR Guidebook, um Fragen für das Prototyping zu entwickeln und zwischen verschiedenen Designoptionen zu wählen.

Code für Wordcraft abrufen (optional)

Wordcraft ist ein KI-basierter Texteditor, der bei Google Research entwickelt wurde und die Zusammenarbeit von Mensch und KI beim Schreiben von Geschichten untersucht. Der Wordcraft-Code ist Open Source. Sie können also in diesem Codelab selbst mit Prompts experimentieren.

  • Verwenden Sie den folgenden Befehl, um den Code für Wordcraft zu erhalten:
git clone https://github.com/pair-code/wordcraft

Alternativ können Sie die ZIP-Datei herunterladen:

Noch offen

3. Generative KI zum Schreiben von Geschichten verwenden

Ein Large Language Model (LLM) ist ein KI-Modell, das mit riesigen Mengen an Text aus Büchern, Artikeln und Websites trainiert wird, um Grammatik, gängige Formulierungen und andere Informationen zu lernen. Anhand dieser Daten und mit einigen zusätzlichen Feinabstimmungen kann ein LLM wie PaLM viele KI-Aufgaben auf Grundlage einfacher Anweisungen erledigen, ohne dass eine ausgefeilte Programmierung für maschinelles Lernen erforderlich ist. Sie kann auch Fragen beantworten, Informationen zusammenfassen, Sprachen übersetzen und viele andere KI-Aufgaben ausführen.

In diesem Codelab verwenden Sie ein LLM, um einen Prototyp für eine App zu erstellen, die Autoren beim Schreiben von Geschichten unterstützt. Das PaLM-LLM von Google verfügt nicht nur über allgemeine Informationen zu Themen wie der Welt oder Grammatik, sondern ist auch darauf ausgelegt, Nutzeranweisungen oder Prompts zu befolgen. Um Ihr Tool in MakerSuite zu prototypisieren, müssen Sie dem Modell beibringen, was es als Reaktion auf einen Nutzer-Prompt schreiben soll.

KI-gestützte Geschichten mit Text-Prompts in MakerSuite schreiben

  1. Wenn Sie einen Prompt erstellen möchten, klicken Sie im linken Bereich auf Neu erstellen und wählen Sie Text-Prompt aus. Beginnen Sie mit diesem Prompt:
You are a talented fiction author. Write a story about a given topic.
Topic: {{topic}}

Sobald Sie diesen Prompt eingeben, erkennt MakerSuite, dass {{topic}} eine Eingabe für den Prompt ist, und öffnet den Bereich Prompt testen. Dort können Sie sehen, wie Ihr Prompt mit verschiedenen Eingaben funktioniert.

  1. Geben Sie A boy discovers a lost cat in his yard ein und klicken Sie dann auf den Modellbereich (rechts neben der Schaltfläche Ausführen). Wählen Sie als Temperatur 0.8 aus.
  2. Klicken Sie abschließend auf Ausführen, um den Prompt auszuführen. Die Prompt-Ausgabe sollte in Kürze in der Tabelle angezeigt werden.

Wenn Sie die Temperatureinstellung auf 0.8 setzen, wird dem Modell mitgeteilt, dass Sie Vielfalt in der Ausgabe bevorzugen. So erhalten Sie kreativere Geschichten, aber jedes Mal, wenn Sie den Prompt ausführen, werden unterschiedliche Ergebnisse generiert. Wenn Sie jedes Mal genau dieselbe Ausgabe erhalten möchten, legen Sie die Temperatur auf 0 fest.

Eine mögliche Ausgabe ist die folgende:

Henry sat on the edge of his porch and swung his legs back and forth. A small cat ran in front of him. Henry petted the cat. The cat began to purr. Henry picked up the cat and placed it on his lap. The cat began to snuggle close to him. Henry decided to keep the cat.
  1. Führen Sie den Prompt mehrmals aus und sehen Sie sich die verschiedenen Geschichten an, die erstellt werden.

Screenshot des MakerSuite-Editors. In der Ansicht wird der Prompt oben und die Tabelle „Prompt testen“ mit den Testeingaben unten angezeigt.

Wie Sie sehen, schreibt das Modell eine strukturierte Geschichte, die logisch aufgebaut ist. Es trifft aber auch einige Annahmen. Die Geschichte dreht sich beispielsweise um einen Jungen namens Henry. Sie können diese Annahmen ändern, indem Sie den Namen unseres Protagonisten angeben oder sogar festlegen, ob sich die Geschichte auf das Kätzchen oder den Menschen konzentrieren soll.

  1. Aktualisieren Sie den Prompt und klicken Sie dann auf Ausführen, um zu sehen, wie er mit allen Testeingaben funktioniert.

Mithilfe des PAIR Guidebook die Aufgaben ermitteln, die sich am besten für die Unterstützung durch KI eignen

Bisher wurde davon ausgegangen, dass das KI-Modell eine vollständige Geschichte schreibt, wenn nur eine kurze Beschreibung angegeben wird. Aber ist das die richtige Designentscheidung für Ihr Creative-Tool? Stellen Sie sich beispielsweise einen Assistenten vor, der Autoren hilft, Teile der Geschichte ihrer Wahl neu zu schreiben. Sie können diese Interaktion beispielsweise in MakerSuite prototypisieren und das Story-Fragment dramatischer gestalten.

So können wir Ihnen viel gezielter helfen und jeweils ganze Absätze umschreiben. Mit einigen Änderungen am Prompt können Sie ein Tool zur Nutzerunterstützung statt eines Tools zur Aufgabenautomatisierung entwickeln.

Das PAIR Guidebook bietet einen prinzipienbasierten Ansatz, um solche Fragen im KI-Entwicklungsprozess zu stellen und zu beantworten. Mit MakerSuite können Sie schnell Prototypen erstellen. Mit dem PAIR-Guidebook können Sie Designentscheidungen auf die vielversprechendsten für Ihre Zwecke und die Zielgruppe, die Sie ansprechen möchten, eingrenzen. Im Guidebook erfahren Sie, ob sich die Zusammenarbeit mit KI zur Entwicklung Ihrer App durch Augmentierung oder Automatisierung am besten eignet.

Beginnen Sie mit der Leitfrage Wie sollte ich KI verwenden? im Guidebook. Wie in diesem Guidebook-Muster beschrieben, ist es besser, KI zu verwenden, wenn sie einen einzigartigen Mehrwert bietet. Da LLMs mit vielen Daten zu Grammatik, gängigen Formulierungen und anderen Informationen aus dem Internet trainiert werden, kann es in diesem Fall nützlich sein, die Fähigkeit des Modells zu nutzen, die Welt der Geschichte zu verstehen, die Sie in der Ausgabe Ihrer Schreib-App beschreiben möchten, und Vorschläge für eine Überarbeitung zu erhalten. Dies baut auf dem Muster für personalisierte Empfehlungen im Guidebook auf.

Gehen wir noch einen Schritt weiter. Das PAIR Guidebook enthält ein Kapitel zu Nutzeranforderungen mit Hinweisen dazu, ob Aufgaben automatisiert oder erweitert werden sollten.

Wenn Sie über Erweiterungen oder Automatisierung nachdenken, sollten Sie daran denken, dass Ihr Prototyp eine hilfreiche App für Autoren sein soll. Es ist also wahrscheinlich, dass Ihre Nutzer gerne schreiben, die Verantwortung für ihre Texte übernehmen möchten und im Laufe ihres Lebens Vorlieben entwickelt haben, die schwer zu kommunizieren sind. Insgesamt deutet dies darauf hin, dass ein Augmentierungsansatz die vielversprechendere Option sein könnte.

Gemäß dem PAIR Guidebook ist es möglicherweise sinnvoll, die App, die Sie als Prototyp entwickeln, nicht als Tool zum Schreiben, sondern zum Umschreiben zu betrachten. Sie können den Prompt beispielsweise so ändern, dass verschiedene Schreibstile möglich sind.

  1. So erstellen Sie einen neuen Text-Prompt:
Edit the paragraph below. Make it \{\{rewrite style\}\}. Only respond with the updated text. Do not include any explanation.

Paragraph: {{paragraph}}

Sowohl \{\{rewrite style\}\} als auch {{paragraph}} sind hier Texteingaben.

  1. Probieren Sie im Testbereich verschiedene Stile für das Umschreiben aus, z. B. kürzer, dramatischer, witziger, weniger grammatikalisch umständlich oder poetisch.

Design für Geschichten aus aller Welt

Bisher haben Sie den Prompt Schreibe einen Absatz um mit Geschichten getestet, denen ein starker kultureller Kontext fehlt. Beim Entwerfen von Responsible AI-Funktionen ist es oft hilfreich, eine Vielzahl von Eingaben auszuprobieren.

Probieren Sie verschiedene Testeingaben aus, z. B.:

  • In einer ruhigen Ecke eines malerischen Pariser Cafés genoss ein einsamer Gast das Aroma von frisch gebrühtem Kaffee. Seine Gedanken schweiften zu einem längst vergessenen Moment, der den Lauf seines Lebens für immer veränderte.
  • Inmitten der chaotischen Energie eines Nahverkehrszugs in Mumbai unterhielt sich eine Frau mittleren Alters mit einer Fremden. Wie faszinierend, dachte sie, in derselben Stadt zu leben und doch so unterschiedliche Leben zu führen.
  • Inmitten des lebhaften Chaos eines geschäftigen Shanghaier Straßenmarkts nahm sich ein Streetfood-Verkäufer einen Moment Zeit, um das Kommen und Gehen der Menschenmenge zu beobachten.

Experimentieren Sie verantwortungsbewusst mit anderen kulturellen und geografischen Kontexten und achten Sie darauf, unfaire Vorurteile und historische Stereotype zu vermeiden. Das LLM hat zwar auf Grundlage vorhandener Online-Daten Kenntnisse über viele Teile der Welt, aber es kann sein, dass es nicht alle Details zu einem bestimmten geografischen Ort richtig wiedergibt. Wie im PAIR Guidebook vorgeschlagen, ist es wichtig, Nutzern bei Augmentierungsaufgaben die Kontrolle zu geben. Sie können beispielsweise die Umschreibefunktionen Ihres Prototyps erweitern, um mehr Kontrolle über die Handlung und die Details der Geschichte zu haben.

Viele generative Modelle weisen manchmal auch Standardannahmen auf, was zum Teil auf Mustern beruht, die in ihren riesigen Trainingsdatensätzen mit Onlineinformationen häufiger vorkommen. Es ist wichtig zu wissen, dass Modelle so gesteuert werden können, dass sie andere, ebenso gültige Annahmen treffen. Für den Prompt Schreibe einen Absatz um oben können Sie beispielsweise ein Geschlecht für die fremde Person im Zug angeben, indem Sie den Stil ändern und kürzer. Denk daran, dass die Fremde eine Frau ist.“

4. Vertrauen aufbauen

Ohne das Vertrauen der Nutzer werden selbst die innovativsten KI-Funktionen möglicherweise nicht genutzt. Vertrauen entsteht, wenn Nutzer das Gefühl haben, dass die KI leistungsfähig, zuverlässig und hilfreich ist. Wenn Nutzer Vertrauen in die KI-Funktionen entwickeln, sind sie eher bereit, sich damit auseinanderzusetzen, wie und wann sie bestimmte Funktionen verwenden können. Das kann insgesamt zu einer besseren Nutzererfahrung führen.

Das PAIR Guidebook bietet einige Ideen, die Nutzern helfen können, zu entscheiden, wie viel sie KI-Systemen vertrauen sollten:

Frühzeitig Vertrauen aufbauen

Bei generativer KI ist es besonders wichtig, die Absicht der Funktionen zu kommunizieren und Nutzern zu helfen, die Einschränkungen der KI zu verstehen. Da Sprachmodelle in erster Linie darauf ausgelegt sind, vorherzusagen, was als Nächstes in einem Text kommt, sind ihre Ausgaben beispielsweise möglicherweise nicht immer sachlich richtig. Es ist daher wichtig, Nutzern zu vermitteln, dass dieser Prototyp eine kreative Schreibhilfe ist und keinen Anspruch auf sachliche Richtigkeit erhebt. Wenn Nutzer Details, die faktisch sein sollen, auf ihren Wahrheitsgehalt überprüfen möchten, sollten sie über vertrauenswürdige Quellen im Internet suchen.

Überlegen Sie sich einige Möglichkeiten, wie Sie Nutzern verdeutlichen können, dass dieser Prototyp nicht für das Schreiben von Fakten, sondern speziell für das Schreiben von fiktiven Texten gedacht ist.

Vertrauen aufrechterhalten

Auch wenn generative KI-Modelle sehr leistungsfähig sind, können Nutzer bei vielen spezifischen Anwendungsfällen nicht immer überprüfen, ob Aufgaben korrekt ausgeführt wurden. Dieser Prototyp ist beispielsweise auf das gezielte Vervollständigen von Text und das gezielte Umschreiben von fiktiven Texten ausgelegt – Funktionen, die Nutzer leicht überprüfen können. Im Gegensatz dazu können generative Modelle zwar problemlos aufgefordert werden, große Textabschnitte umzuschreiben, aber Nutzer übersehen möglicherweise subtile Fehler, die sich eingeschlichen haben. Wenn Sie sich bei interaktiven generativen KI-Funktionen auf Aufgaben konzentrieren, die Nutzer leicht überprüfen können, gewinnen Sie ihr Vertrauen.

Eine letzte Möglichkeit, das Vertrauen aufrechtzuerhalten, besteht darin, die Steuerbarkeit generativer Modelle zu nutzen. Im Gegensatz zu früheren KI-Modellen, die für eine eng definierte Aufgabe konzipiert sind, lassen sich die Ausgaben generativer Modelle viel einfacher anpassen. Das zeigt sich beispielsweise, wenn man nach dramatischeren, kürzeren oder ähnlichen Umformulierungen fragt. Eine solche Steuerbarkeit kann zwar zu einer besseren Nutzererfahrung führen, sie sollte jedoch innerhalb der Fähigkeiten des Modells begrenzt werden. In diesem Prototyp könnten Sie den Nutzern beispielsweise eine Liste mit Anweisungen zum Umschreiben anbieten, die sich als Vorschläge für den Endnutzer bewährt haben, anstatt sie nach Möglichkeiten zum Umschreiben ihres Texts zu fragen.

Verlorenes Vertrauen zurückgewinnen

Trotz aller Bemühungen kann es vorkommen, dass das Modell suboptimale Ergebnisse liefert. In solchen Fällen ist es wichtig, dass Nutzer alle KI-Aktionen rückgängig machen können. Ebenso ist es oft besser, Funktionen zu identifizieren, die eine variable Leistung haben, und sie nur auszulösen, wenn Nutzer explizit KI-Unterstützung anfordern.

  • Überlegen Sie sich verschiedene Möglichkeiten, Rückgängigmachen-Funktionen zu erstellen oder das Vertrauen der Nutzer auf andere Weise zurückzugewinnen.

Lösungen für diese Herausforderungen finden Sie in der Codelab-Lösung.

5. Zusammenfassung

Bisher haben Sie mit Prompts in MakerSuite experimentiert. Wenn Sie mit diesen Prompts zufrieden sind, können Sie sie direkt in Ihrem Prototyp verwenden.

  • Speichern Sie zuerst den Prompt und klicken Sie dann rechts oben auf Code abrufen. Falls noch nicht geschehen, müssen Sie Ihren API-Schlüssel auch aktivieren. Klicken Sie dazu im angezeigten Dialogfeld Code abrufen auf API-Schlüssel aktivieren.

Die MakerSuite-Symbolleiste Die Schaltfläche „Code abrufen“ befindet sich oben rechts.

MakerSuite generiert Code, den Sie direkt in Ihrer Anwendung verwenden können. Wenn Sie den Code beispielsweise für eine Webanwendung verwenden möchten, wählen Sie den JavaScript-Code aus. Sie können den Code direkt aus dem Dialogfeld kopieren und in Ihre Web-App einfügen. Wenn Sie Ihren Prompt in MakerSuite aktualisieren, müssen Sie ihn auch in Ihrem Code aktualisieren. Verwenden Sie dazu die Prompt-Variable im enthaltenen Code.

Dialogfeld mit von MakerSuite generiertem Code Nutzer können zwischen cURL, JavaScript- oder Python-Bibliotheken oder dem Abrufen der Prompt-Informationen als JSON wählen.

Wenn Sie diese API in eine vorgefertigte App für kreatives Schreiben einbinden möchten, können Sie den Wordcraft-Code herunterladen.

Codelab-Lösung

Sie können den Code für Wordcraft von GitHub abrufen:

git clone https://github.com/pair-code/wordcraft

Alternativ können Sie das Repository als ZIP-Datei herunterladen:

6. Glückwunsch

Sie haben das Codelab Verantwortungsbewusstes KI-Prototyping mit dem PAIR-Guidebook und MakerSuite durchgearbeitet und gelernt, wie Sie mit einigen Google-Tools Prototypen für verantwortungsbewusste KI-Anwendungen erstellen können (in diesem Fall für eine App zum kreativen Schreiben). Wir sind gespannt, was Sie damit alles anstellen werden.

Weitere Informationen