Mit dem PAIR Guidebook und der MakerSuite einen Prototyp für Responsible AI entwickeln

1. Hinweis

MakerSuite ist eine Reihe von Tools, mit denen Sie direkt im Browser Prototypen mit Large Language Models erstellen können – ohne Einrichtung. Mit MakerSuite können Sie schnell Prompts ausprobieren und dann eine API erstellen, auf die Ihre App direkt zugreifen kann. So können Teams schnell hervorragende Anwendungen auf Grundlage generativer AI entwickeln. Das Leitfadenbuch „People + AI Research“ (PAIR) bietet eine Anleitung zum Entwerfen eines neuen Produkts mit KI. Dabei liegt der Schwerpunkt auf menschenzentrierten Datenpraktiken und dem Aufbau von Vertrauen bei Nutzern. Diese Anleitung ist auch auf die Verwendung von MakerSuite anwendbar.

In diesem Codelab erfahren Sie, wie Sie diese beiden Ressourcen zusammen nutzen, um verantwortungsbewusste KI-basierte Anwendungen zu entwickeln. Der Schwerpunkt des Codelabs liegt auf dem verantwortungsbewussten Prototyping mit generativer KI und nicht auf dem End-to-End-Workflow dieser bestimmten Ressourcen. Weitere Informationen zum allgemeinen Workflow für MakerSuite finden Sie in dieser einführenden Anleitung für MakerSuite. Im PAIR-Leitfaden finden Sie eine umfassendere Anleitung zum Entwerfen von KI-Produkten.

Voraussetzungen

  • Grundlegendes Verständnis von KI.
  • Grundkenntnisse im Workflow der Produktentwicklung

Aufgaben in diesem Lab

  • Wie Sie mit dem PAIR-Leitfaden herausfinden können, wie gut Ihre KI-Erlebnisse für verschiedene Zielgruppen funktionieren und welche Aufgaben mit KI ausgeführt werden sollten und welche nicht.
  • Wie Sie generative KI-Funktionen erstellen, die auf der Vielfalt der kulturellen Praktiken der Nutzer basieren.
  • Wie Sie im KI-Entwicklungsprozess Möglichkeiten nutzen, um das Vertrauen der Nutzer zu gewinnen, indem Sie sich auf die Erklärbarkeit für Nutzer konzentrieren.
  • Wie Sie ein breiteres Toolkit mit Materialien zu generativer KI und ressourcenorientierter KI für weitere Recherchen nutzen.

Umfang

In diesem Codelab führen wir Sie durch einen praktischen Prototyping-Prozess für verantwortungsbewusste generative KI, während Sie ein Tool für kreatives Schreiben entwerfen. Wenn Sie möchten, können Sie diese von Ihnen erstellten Prompts sogar in Wordcraft einbinden, einem Open-Source-KI-gestützten Texteditor, der von Google als Forschungsprototyp veröffentlicht wurde.

Voraussetzungen

  • Browser
  • Google-Konto, um auf MakerSuite zuzugreifen

2. Einrichten

MakerSuite

MakerSuite ist eine Reihe von Google-Tools, mit denen Sie direkt im Browser Prototypen mit Large Language Models erstellen können – ohne Einrichtung. Hier können Sie schnell Modelle testen und mit verschiedenen Prompts experimentieren. Wenn Sie mit einem Modell das gewünschte Ergebnis erzielt haben, können Sie es ganz einfach als Python-Code exportieren und dann dieselben Modelle mit der Generative Language API aufrufen.

Wenn Sie mit Large Language Models in der MakerSuite experimentieren möchten, melden Sie sich auf der Warteliste an.

Leitfaden für die Forschung zu „Mensch + KI“

Der Leitfaden „People + AI Research“ (PAIR) ist eine Ressource, die Entwicklern, Designern, Produktmanagern, Studenten und vielen anderen dabei hilft, KI verantwortungsvoll einzusetzen.

Das PAIR-Leitfaden kann Ihnen und Ihrem Team helfen, eine Liste wichtiger Fragen zu KI – einschließlich generativer KI – in Ihrem Produkt zu erstellen.

  • Wann und wie sollte ich KI in meinem Produkt verwenden?
  • Wie kann ich Nutzern helfen, Vertrauen in mein KI-System aufzubauen?
  • Wie erkläre ich Nutzern mein KI-System?
  • Wie können KI-Erlebnisse kulturell inklusiv und gleichberechtigt sein?

Sie verwenden das PAIR-Leitfaden in diesem Codelab, um Fragen für das Prototyping zu entwickeln und zwischen verschiedenen Designoptionen zu wählen.

Code für Wordcraft abrufen (optional)

Wordcraft ist ein KI-gestützter Texteditor, der von Google Research entwickelt wurde und das gemeinsame Erstellen von Geschichten durch Menschen und KI untersucht. Der Code von Wordcraft ist Open Source. Sie können also in diesem Codelab selbst mit Prompts experimentieren.

  • Verwenden Sie den folgenden Befehl, um den Code für Wordcraft abzurufen:
git clone https://github.com/pair-code/wordcraft

Alternativ können Sie die ZIP-Datei herunterladen:

Noch offen

3. Generative KI für das Schreiben von Geschichten verwenden

Ein Large Language Model (LLM) ist ein KI-Modell, das mit riesigen Textmengen aus Büchern, Artikeln und Websites trainiert wird, um Grammatik, gängige Redewendungen und andere Informationen zu lernen. Anhand dieser Daten und mit etwas zusätzlicher Feinabstimmung kann ein LLM wie PaLM viele Aufgaben der künstlichen Intelligenz anhand einfacher Anweisungen ausführen, anstatt eine ausgefeilte Programmierung für maschinelles Lernen zu erfordern. Außerdem kann er Fragen beantworten, Informationen zusammenfassen, Sprachen übersetzen und viele andere KI-Aufgaben ausführen.

In diesem Codelab erstellen Sie mit einem LLM einen Prototyp für eine App, die Autoren beim Schreiben von Geschichten unterstützt. Neben allgemeinen Informationen über die Welt, Grammatik usw. ist das PaLM-LLM von Google so konzipiert, dass es Nutzeranweisungen oder Prompts befolgen kann. Wenn Sie also einen Prototyp Ihres Tools in MakerSuite erstellen möchten, trainieren Sie Ihr Modell, was es als Antwort auf einen Nutzerprompt schreiben soll.

KI-gestützte Geschichten mithilfe von Text-Prompts in MakerSuite schreiben

  1. Wenn Sie einen Prompt erstellen möchten, klicken Sie im linken Bereich auf Neu erstellen und wählen Sie Textprompt aus. Beginnen Sie mit diesem Prompt:
You are a talented fiction author. Write a story about a given topic.
Topic: {{topic}}

Sobald Sie diesen Prompt eingegeben haben, erkennt MakerSuite, dass {{topic}} eine Eingabe für den Prompt ist, und öffnet den Bereich Prompt testen, in dem Sie sehen können, wie Ihr Prompt mit verschiedenen Eingaben funktioniert.

  1. Geben Sie A boy discovers a lost cat in his yard ein und klicken Sie dann auf den Modellbereich (rechts neben der Schaltfläche Ausführen) und wählen Sie die Temperatur 0.8 aus.
  2. Klicken Sie abschließend auf Ausführen, um den Prompt auszuführen. Die Promptausgabe sollte nach kurzer Zeit in der Tabelle angezeigt werden.

Wenn Sie die Temperatureinstellung auf 0.8 festlegen, teilt das Modell mit, dass Sie Vielfalt bei der Ausgabe bevorzugen. Das führt zu kreativeren Storys, aber bei jeder Ausführung zu unterschiedlichen Ergebnissen. Wenn Sie jedes Mal genau dieselbe Ausgabe erhalten möchten, legen Sie die Temperatur auf 0 fest.

Eine mögliche Ausgabe sieht so aus:

Henry sat on the edge of his porch and swung his legs back and forth. A small cat ran in front of him. Henry petted the cat. The cat began to purr. Henry picked up the cat and placed it on his lap. The cat began to snuggle close to him. Henry decided to keep the cat.
  1. Probieren Sie den Prompt mehrmals aus und achten Sie auf die verschiedenen Geschichten, die erstellt werden.

Screenshot des Makersuite-Editors In der Ansicht wird oben der Prompt angezeigt und unten die Tabelle „Prompt testen“ mit den Testinputs.

Wie Sie sehen, schreibt das Modell eine strukturierte Geschichte, die logisch aufgebaut ist, aber auch einige Annahmen enthält. Die Geschichte dreht sich beispielsweise um einen Jungen namens Henry. Sie können diese Annahmen ändern, indem Sie den Namen der Hauptfigur angeben oder sogar festlegen, ob sich die Geschichte auf das Kätzchen oder den Menschen konzentrieren soll.

  1. Aktualisieren Sie den Prompt und klicken Sie dann auf Ausführen, um zu sehen, wie er mit allen Testinputs funktioniert.

Mit dem PAIR-Leitfaden die Aufgaben ermitteln, die sich am besten für KI-gestützte Hilfe eignen

Bisher wird davon ausgegangen, dass das KI-Modell eine vollständige Geschichte schreibt, die nur eine kurze Beschreibung enthält. Aber ist das die richtige Designentscheidung für Ihr Creative-Tool? Stellen Sie sich beispielsweise einen Assistenten vor, der Autoren dabei hilft, Teile der Geschichte ihrer Wahl umzuschreiben. Sie können diese Interaktion in MakerSuite als Prototyp erstellen und das Story-Fragment beispielsweise dramatischer gestalten.

So erhalten Sie eine viel gezieltere Unterstützung, da jeweils ganze Absätze umgeschrieben werden. Auf einer höheren Ebene können Sie mit einigen Änderungen an Ihrem Prompt einen Prototyp für ein Tool zur Nutzererweiterung statt für ein Tool zur Aufgabenautomatisierung erstellen.

Das PAIR-Leitfaden bietet eine fundierte Möglichkeit, solche Fragen im Entwicklungsprozess von KI zu stellen und zu beantworten. Mit MakerSuite können Sie schnell Prototypen für Ideen erstellen. Mit dem PAIR-Leitfaden können Sie die Designoptionen auf die vielversprechendsten für Ihre Zwecke und die Zielgruppe eingrenzen, die Sie ansprechen möchten. Anhand des Leitfadens können Sie herausfinden, ob KI-gestützte Erweiterung oder Automatisierung der richtige Ansatz für die Entwicklung Ihrer App ist.

Beginnen Sie mit der Leitfrage Wie sollte ich KI einsetzen? im Leitfaden. Wie in diesem Musterbuch erwähnt, ist es besser, KI zu verwenden, wenn sie einen Mehrwert bietet. Da LLMs mit vielen Daten zu Grammatik, gängigen Redewendungen und anderen Informationen aus dem Internet trainiert werden, kann es in diesem Fall nützlich sein, die Fähigkeit des Modells zu nutzen, die Welt der Geschichte zu verstehen, die Sie in der Ausgabe Ihrer Schreib-App beschreiben möchten, und Vorschläge zur Umformulierung zu machen. Das Muster basiert auf dem Muster für personalisierte Empfehlungen im Leitfaden.

Gehen wir noch einen Schritt weiter. Das PAIR-Leitfaden enthält ein Kapitel zu den Anforderungen der Nutzer mit Hinweisen dazu, ob Aufgaben automatisiert oder erweitert werden sollten.

Denken Sie bei der Erweiterung oder Automatisierung daran, dass Ihr Prototyp eine hilfreiche App für Autoren sein soll. Es ist also wahrscheinlich, dass Ihre Nutzer gerne schreiben, die Verantwortung für ihre Texte übernehmen möchten und im Laufe der Zeit Vorlieben entwickelt haben, die sich möglicherweise nur schwer kommunizieren lassen. Zusammengenommen deutet dies darauf hin, dass ein Ansatz der Aufstockung die vielversprechendere Option sein könnte.

Gemäß dem PAIR-Leitfaden kann es sinnvoll sein, die App, die Sie prototypisieren, nicht als Tool zum Schreiben, sondern zum Umschreiben zu betrachten. Sie können den Prompt beispielsweise so ändern, dass verschiedene Schreibstile möglich sind.

  1. So erstellen Sie einen neuen Textprompt:
Edit the paragraph below. Make it \{\{rewrite style\}\}. Only respond with the updated text. Do not include any explanation.

Paragraph: {{paragraph}}

Hier sind sowohl \{\{rewrite style\}\} als auch {{paragraph}} Texteingaben.

  1. Probieren Sie im Testfeld verschiedene Umformulierungsstile aus, z. B. kürzer, dramatischer, witziger, grammatisch weniger sperrig, poetisch usw.

Design für Geschichten aus aller Welt

Bisher haben Sie den Prompt Einen Absatz umschreiben mit Geschichten getestet, die keinen starken kulturellen Kontext haben. Beim Entwerfen von KI-Anwendungen, die verantwortungsvoll eingesetzt werden, ist es oft hilfreich, eine Vielzahl von Eingaben auszuprobieren.

Probieren Sie verschiedene Testeingaben aus, z. B.:

  • In einer ruhigen Ecke eines kleinen Pariser Cafés genoss ein einzelner Gast den Duft von frisch gebrühtem Kaffee. Seine Gedanken wanderten zu einem längst vergessenen Moment, der den Lauf seines Lebens für immer veränderte.
  • Inmitten der chaotischen Energie eines Mumbai-Nahverkehrszugs begann eine Frau mittleren Alters eine Unterhaltung mit einem Fremden. Wie faszinierend, dachte sie, in derselben Stadt zu leben und so unterschiedliche Leben zu führen.
  • Inmitten des bunten Chaos eines belebten Straßenmarkts in Shanghai beobachtete ein Streetfood-Verkäufer einen Moment lang das Auf und Ab der Menge.

Experimentieren Sie verantwortungsvoll mit anderen kulturellen und geografischen Kontexten und achten Sie darauf, unfaire Voreingenommenheit und historische Stereotype zu vermeiden. Der LLM hat zwar auf der Grundlage vorhandener online verfügbarer Daten Kenntnisse über viele Teile der Welt, kann aber möglicherweise nicht alle Details zu einem bestimmten geografischen Ort richtig wiedergeben. Wie im PAIR-Leitfaden vorgeschlagen, ist es bei Aufgaben zur Erweiterung wichtig, den Nutzern die Kontrolle zu geben. Sie können beispielsweise die Umschreibfunktionen Ihres Prototyps erweitern, um mehr Kontrolle über die Handlung und die Details der Geschichte zu haben.

Viele generative Modelle haben manchmal auch Standardannahmen, was zum Teil auf Muster zurückzuführen ist, die in ihren riesigen Trainingsdatensätzen mit Onlineinformationen häufiger vorkommen. Es ist wichtig zu wissen, dass Modelle so gesteuert werden können, dass andere, ebenso gültige Annahmen getroffen werden. Für den Prompt einen Absatz umschreiben oben können Sie beispielsweise ein Geschlecht für die fremde Person im Zug angeben, indem Sie den Umschreibstil ändern und kürzer. Denken Sie daran, dass die Fremde auch eine Frau ist.“

4. Vertrauen aufbauen

Ohne das Vertrauen der Nutzer werden selbst die innovativsten KI-Funktionen möglicherweise nicht genutzt. Vertrauen entsteht, wenn Nutzer das Gefühl haben, dass die KI leistungsfähig, zuverlässig und hilfreich ist. Wenn Sie Nutzern helfen, Vertrauen aufzubauen, können Sie sie dazu anregen, zu lernen, wie und wann sie bestimmte Funktionen verwenden können. Dies kann sich insgesamt positiv auf die Nutzerfreundlichkeit auswirken.

Das PAIR Guidebook bietet einige Ideen, wie Nutzer feststellen können, wie sehr sie KI-Systemen vertrauen sollten:

Vertrauen frühzeitig aufbauen

Bei generativer KI ist es besonders wichtig, den Zweck der Funktionen zu kommunizieren und Nutzern zu helfen, die Einschränkungen der KI zu verstehen. Da Sprachmodelle beispielsweise hauptsächlich dazu dienen, vorherzusagen, was im Text als Nächstes kommt, sind ihre Ergebnisse möglicherweise nicht immer sachlich korrekt. Daher ist es wichtig, den Nutzern zu vermitteln, dass dieser Prototyp eine kreative Schreibhilfe ist und keinen Anspruch auf sachliche Richtigkeit erhebt. Wenn Nutzer Details überprüfen möchten, die ihrer Meinung nach sachlich korrekt sind, sollten sie online über vertrauenswürdige Quellen suchen.

Überlegen Sie sich, wie Sie Nutzern verdeutlichen können, dass dieser Prototyp nicht zum Verfassen von Sachinformationen, sondern speziell zum Verfassen von fiktionalen Texten gedacht ist.

Vertrauen aufbauen

Auch wenn generative KI-Modelle sehr leistungsfähig sind, können Nutzer bei vielen spezifischen Anwendungsfällen nicht immer überprüfen, ob Aufgaben korrekt erledigt wurden. Dieser Prototyp ist beispielsweise auf das gezielte Vervollständigen von Text und das gezielte Umschreiben von fiktionalen Texten ausgelegt – Funktionen, die Nutzer leicht überprüfen können. Generative Modelle können zwar leicht dazu aufgefordert werden, große Textabschnitte umzuschreiben, aber Nutzer können subtile Fehler übersehen, die sich eingeschlichen haben. Im Allgemeinen stärkt es das Vertrauen der Nutzer, wenn sich interaktive generative KI-Funktionen auf Aufgaben konzentrieren, die Nutzer leicht überprüfen können.

Eine letzte Möglichkeit, das Vertrauen zu wahren, besteht darin, die Lenkbarkeit generativer Modelle zu nutzen. Im Gegensatz zu früheren KI-Modellen, die für eine eng umrissene Aufgabe entwickelt wurden, lassen sich die Ausgaben generativer Modelle von Endnutzern viel einfacher anpassen (wie z. B. durch die Aufforderung, dramatischer, kürzer oder ähnlich umzuformulieren). Eine solche Lenkbarkeit kann zwar zu einer besseren Nutzererfahrung führen, aber es sollte darauf geachtet werden, dass diese Lenkbarkeit innerhalb der Möglichkeiten des Modells bleibt. Anstatt Nutzer in diesem Prototyp beispielsweise nach Möglichkeiten zum Umformulieren ihres Textes zu fragen, könnten Sie eine Liste mit Umformulierungsanleitungen anbieten, die sich gut als Vorschläge für den Endnutzer eignen.

Vertrauen zurückgewinnen

Trotz aller Bemühungen kann es vorkommen, dass das Modell nicht die gewünschten Ergebnisse liefert. In solchen Fällen ist es wichtig, dass Nutzer alle KI-Aktionen rückgängig machen können. Ebenso ist es oft besser, Funktionen mit variabler Leistung zu identifizieren und sie nur dann auszulösen, wenn Nutzer ausdrücklich KI-Unterstützung anfordern.

  • Überlegen Sie sich, wie Sie undo oder andere Möglichkeiten zum Wiederherstellen des Vertrauens der Nutzer schaffen könnten.

In der Codelab-Lösung finden Sie Lösungen für diese Herausforderungen.

5. Zusammenfassung

Bisher haben Sie in MakerSuite mit Prompts experimentiert. Wenn Sie mit diesen Prompts zufrieden sind, verwenden Sie sie direkt in Ihrem Prototyp.

  • Speichern Sie zuerst den Prompt und klicken Sie dann rechts oben auf Code abrufen. Aktivieren Sie gegebenenfalls auch Ihren API-Schlüssel. Klicken Sie dazu im angezeigten Dialogfeld Code abrufen auf API-Schlüssel aktivieren.

Die Symbolleiste der Makersuite Die Schaltfläche „Code abrufen“ befindet sich oben rechts.

MakerSuite generiert Code, den Sie direkt in Ihrer Anwendung verwenden können. Wählen Sie beispielsweise den JavaScript-Code für die Verwendung mit einer Webanwendung aus. Sie können den Code direkt aus dem Dialogfeld kopieren und in Ihre Webanwendung einfügen. Wenn Sie den Prompt in MakerSuite aktualisieren, denken Sie daran, ihn auch in Ihrem Code mithilfe der Promptvariablen im enthaltenen Code zu aktualisieren.

Dialogfeld mit von Makersuite generiertem Code Nutzer können zwischen cURL, JavaScript- oder Python-Bibliotheken wählen oder die Prompt-Informationen als JSON abrufen.

Wenn Sie diese API in eine vorgefertigte App für kreatives Schreiben einbinden möchten, können Sie den Wordcraft-Code herunterladen.

Codelab-Lösung

Den Code für Wordcraft finden Sie auf GitHub:

git clone https://github.com/pair-code/wordcraft

Alternativ können Sie das Repository auch als ZIP-Datei herunterladen:

6. Glückwunsch

Sie haben das Codelab Mit dem PAIR-Leitfaden und der MakerSuite lernen, wie Sie Prototypen für verantwortungsbewusste KI erstellen abgeschlossen und gelernt, wie Sie mithilfe einiger Google-Tools Prototypen für verantwortungsbewusste KI (in diesem Fall für eine App zum kreativen Schreiben) erstellen. Wir sind schon gespannt, was ihr damit alles erschafft.

Weitere Informationen