1. Avant de commencer
MakerSuite est un ensemble d'outils qui vous permet de créer des prototypes en utilisant des grands modèles de langage directement dans votre navigateur (aucune configuration n'est nécessaire). Avec MakerSuite, les équipes peuvent tester rapidement des requêtes, puis créer une API à laquelle leur application pourra accéder directement, ce qui leur permet de concevoir en peu de temps des applications de qualité basées sur l'IA générative. Le guide People + AI Research (PAIR) fournit des conseils sur la conception d'un nouveau produit avec l'IA, en mettant l'accent sur les pratiques de gestion des données centrées sur l'humain et sur la confiance des utilisateurs, c'est-à-dire les conseils applicables à MakerSuite.
Dans cet atelier de programmation, vous allez apprendre à exploiter conjointement ces deux ressources pour créer des expériences responsables basées sur l'IA. L'atelier de programmation est axé sur le prototypage responsable avec l'IA générative, et non sur le workflow de bout en bout pour ces ressources spécifiques. Pour en savoir plus sur le workflow général associé à MakerSuite, consultez ce tutoriel de base pour MakerSuite et le guide PAIR pour obtenir des conseils plus complets sur la conception de produits d'IA.
Prérequis
- Connaissances de base en IA
- Connaissance relative du workflow de développement d'un produit
Points abordés
- Utiliser le guide PAIR pour évaluer l'efficacité de vos expériences d'IA auprès de différentes audiences et identifier les tâches à utiliser ou à utiliser
- Comment créer des expériences d'IA générative qui tiennent compte de la richesse des pratiques culturelles des utilisateurs
- Comment intégrer des opportunités dans le processus de développement d'expériences d'IA qui permettent de gagner la confiance des utilisateurs en mettant l'accent sur l'explicabilité
- Utiliser un kit d'outils plus vaste composé de ressources d'IA génératives et de ressources d'IA centrées sur l'humain pour les explorer plus en détail
Objectifs de l'atelier
Cet atelier de programmation vous présente un processus pratique de prototypage pour une IA générative responsable lorsque vous concevez un outil d'écriture de créations. Si vous êtes intéressé, vous pouvez même intégrer ces invites dans Designcraft, un éditeur de texte Open Source basé sur l'IA, publié comme prototype de recherche par Google.
Ce dont vous aurez besoin
- Navigateur
- Compte Google pour accéder à MakerSuite
2. Configuration
MakerSuite
MakerSuite est un ensemble d'outils Google qui vous permet de créer des prototypes en utilisant des grands modèles de langage directement dans votre navigateur (aucune configuration n'est nécessaire). Vous pouvez rapidement tester des modèles et différentes requêtes. Lorsque vous êtes satisfait de ce que vous avez créé, vous pouvez facilement l'exporter sous forme de code Python, puis appeler les mêmes modèles à l'aide de l'API Generative Language.
Pour tester des grands modèles de langage dans MakerSuite, inscrivez-vous sur la liste d'attente.
People + AI Research Guidebook
Le guide People + AI Research (PAIR) est une ressource qui aide les développeurs, les concepteurs, les responsables produit, les étudiants et bien d'autres à utiliser l'IA de manière responsable.
Le guide PAIR peut vous aider, vous et votre équipe, à élaborer une liste de questions clés liées à l'IA, y compris l'IA générative, dans votre produit.
- Quand et comment devrais-je utiliser l'IA dans mon produit ?
- Comment aider les utilisateurs à avoir confiance en mon système d'IA ?
- Comment expliquer mon système d'IA aux utilisateurs ?
- Comment créer des expériences d'IA qui soient inclusives d'un point de vue culturel et axées sur l'équité ?
Vous utiliserez le guide PAIR tout au long de cet atelier de programmation pour développer des questions concernant le prototypage et faire votre choix parmi les différentes options de conception.
Obtenir le code pour Wordcraft (facultatif)
Wordcraft est un éditeur de texte optimisé par l'IA et développé par Google Research, qui explore la rédaction collaborative d'histoires humain-IA. Le code Wordcraft est en Open Source. Vous pouvez ainsi tester des requêtes dans cet atelier de programmation par vous-même.
- Pour obtenir le code pour Wordcraft, utilisez la commande suivante :
git clone https://github.com/pair-code/wordcraft
Vous pouvez également télécharger le fichier ZIP :
À déterminer
3. Utiliser l'IA générative pour écrire des histoires
Un grand modèle de langage (LLM, de l'anglais Large Language Model) est un modèle d'IA qui est entraîné sur d'énormes quantités de texte provenant de livres, d'articles et de sites Web dans le but d'assimiler la grammaire, les expressions courantes et d'autres informations. En s'appuyant sur ces données, et avec quelques réglages supplémentaires, un LLM comme PaLM peut réaliser de nombreuses tâches d'intelligence artificielle d'après des instructions simples, sans que de complexes programmations de machine learning soient nécessaires. Il peut également répondre à des questions, résumer des informations, traduire et effectuer nombre d'autres tâches d'IA.
Dans cet atelier de programmation, vous allez utiliser un LLM pour prototyper une application qui aidera les auteurs à écrire des histoires. Le LLM PaLM de Google dispose non seulement d'informations générales sur le monde, la grammaire, etc., mais est également conçu pour suivre les instructions, ou les requêtes, des utilisateurs. Ainsi, pour prototyper votre outil dans MakerSuite, vous devez enseigner à votre modèle ce qu'il doit écrire en réponse à la requête d'un utilisateur.
Écrire des histoires assistées par l'IA à l'aide des requêtes de texte dans MakerSuite
- Pour créer une requête, cliquez sur Create New (Créer) dans le panneau de gauche et choisissez Text prompt (Requête de texte). Commencez par cette requête :
You are a talented fiction author. Write a story about a given topic.
Topic: {{topic}}
Lorsque vous saisissez cette invite, MakerSuite détecte que l'invite {{topic}} est saisie, puis ouvre le panneau Tester votre invite pour vous permettre de voir comment elle fonctionne avec différentes entrées.
- Saisissez
A boy discovers a lost cat in his yard, puis cliquez sur le panneau de modèle (à droite du bouton Run [Exécuter]) et choisissez une température de0.8. - Enfin, cliquez sur Run (Exécuter) afin d'exécuter la requête. La sortie de la requête devrait s'afficher dans le tableau d'un instant à l'autre.
Définir le paramètre de température sur 0.8 indique au modèle que vous préférez des sorties diversifiées. Vous obtiendrez ainsi des histoires plus créatives, mais également des sorties différentes chaque fois que la requête est exécutée. Si vous souhaitez obtenir exactement la même sortie à chaque fois, définissez la température sur 0.
Voici une des sorties possibles :
Henry sat on the edge of his porch and swung his legs back and forth. A small cat ran in front of him. Henry petted the cat. The cat began to purr. Henry picked up the cat and placed it on his lap. The cat began to snuggle close to him. Henry decided to keep the cat.
- Essayez d'exécuter la requête plusieurs fois pour voir les différentes histoires créées.
Comme vous pouvez le voir, le modèle écrit une histoire structurée qui suit la logique, mais il fait également plusieurs hypothèses. Par exemple, l'histoire est ici centrée sur un garçon appelé Henry. Vous pouvez modifier ces suppositions et préciser le nom du personnage ou même indiquer si vous souhaitez que l'histoire soit centrée sur le chat ou sur l'humain.
- Modifiez votre requête, puis cliquez sur Run (Exécuter) pour voir le résultat avec toutes les entrées de test.
Identifiez les tâches les plus adaptées à l'assistance IA grâce au guide PAIR.
Pour le moment, nous sommes partis de l'idée que le modèle d'IA écrivait une histoire complète à partir d'une brève description. Mais est-ce la bonne décision concernant la conception pour votre outil créatif ? Vous pourriez envisager l'IA comme un outil qui aiderait les auteurs à réécrire des parties précises de l'histoire. Vous pouvez prototyper cette interaction dans MakerSuite et rendre par exemple le fragment de récit plus dramatique.
Cette approche fournit une aide bien plus ciblée, en réécrivant un paragraphe à la fois. De façon plus générale, en apportant quelques modifications à votre requête, vous pouvez prototyper un outil qui vise à augmenter les capacités de l'utilisateur, plutôt qu'un outil qui vise à automatiser une tâche.
Ce guide est un moyen pratique de poser des questions comme celles-ci et d'y répondre lors du processus de développement de l'IA. Bien que MakerSuite vous aide à créer rapidement des prototypes d'idées, le guide PAIR vous permet d'affiner vos choix de conception pour identifier les modèles les plus prometteurs et les audiences qui vous intéressent. Consultez le guide pour savoir si l'augmentation ou l'automatisation est la bonne approche pour créer votre application en partenariat avec l'IA.
Commencez par la question guidée Comment utiliser l'IA du guide ? Comme l'indique ce schéma, il est préférable d'utiliser l'IA lorsqu'elle ajoute une valeur unique. Dans ce cas, étant donné que les LLM sont entraînées avec une grande quantité de données sur la grammaire, les expressions courantes et d'autres informations provenant d'Internet, il peut être utile de profiter de la capacité du modèle à comprendre le monde de l'histoire que vous souhaitez décrire dans la sortie de votre application d'écriture et suggérer des méthodes de réécriture. Cette approche s'appuie sur le modèle de recommandations personnalisées du guide.
Allez encore plus loin : Le guide PAIR fournit un chapitre consacré aux besoins des utilisateurs et explique comment les tâches doivent être automatisées ou augmentées.
Lorsque vous envisagez d'augmenter ou d'automatiser le processus, n'oubliez pas que votre prototype est destiné à être une application utile pour les auteurs-compositeurs. Il est donc fort probable que vos utilisateurs aiment écrire et veuillent assumer eux-mêmes l'écriture, et qu'après une vie passée à écrire, ils aient des préférences qui soient difficiles à communiquer. Ensemble, ces considérations suggèrent qu'une approche d'augmentation pourrait être l'option la plus prometteuse.
D'après le guide de PAIR, il peut être judicieux de considérer l'application que vous prototypez comme un outil d'écriture, mais plutôt comme une réécriture. Vous pourriez ainsi modifier la requête pour obtenir différents styles d'écriture.
- Créez une requête de texte :
Edit the paragraph below. Make it \{\{rewrite style\}\}. Only respond with the updated text. Do not include any explanation.
Paragraph: {{paragraph}}
Ici, \{\{rewrite style\}\} et {{paragraph}} sont tous deux des entrées de texte.
- Dans le panneau de test, essayez différents styles de réécriture, par exemple plus court, plus dramatique, plus ambitieux, moins grammaticalement gênant, poétique, etc.
Concevoir des expériences permettant d'écrire des histoires ancrées dans divers contextes culturels
Pour le moment, vous avez testé la requête réécrire un paragraphe pour des histoires qui n'ont pas de contexte culturel marqué. Lorsque vous concevez des expériences d'IA responsable, il est souvent utile d'essayer des entrées diversifiées.
Essayez différentes entrées de test, par exemple :
- Assis dans un coin calme d'un pittoresque café parisien, un client solitaire savourait un café fraîchement préparé, laissant ses pensées vagabonder jusqu'à un instant longtemps oublié qui a changé le cours de sa vie à jamais.
- Dans l'atmosphère bouillonnante d'un train local de Mumbai, une femme d'âge moyen converse avec une étrangère. Que c'est fascinant, se dit-elle, de vivre dans la même ville et d'avoir des vies si différentes !
- Au milieu de l'effervescence d'un marché animé à Shanghai, un vendeur de rue prend un moment pour observer le va-et-vient de la foule qui passe devant son stand de nourriture.
Expérimenter d'autres contextes culturels et géographiques de manière responsable, en prenant soin d'éviter les biais injustes et les stéréotypes historiques. Bien que le LML connaisse de nombreuses régions du monde d'après les données existantes disponibles en ligne, il se peut que certaines informations ne soient pas correctes pour un lieu géographique donné. Comme le guide PAIR le suggère, les tâches d'augmentation sont importantes pour permettre aux utilisateurs de garder le contrôle. Vous pouvez par exemple étendre les capacités de réécriture de votre prototype afin d'offrir aux utilisateurs un plus grand contrôle sur l'intrigue et les détails de l'histoire.
De nombreux modèles génératifs sont parfois accompagnés d'hypothèses par défaut, en partie à cause des modèles qui préviennent dans leurs vastes ensembles de données d'entraînement d'informations en ligne. Il faut savoir que les modèles peuvent être amenés à faire d'autres suppositions tout aussi valables. Par exemple, pour l'invite Réécrire un paragraphe ci-dessus, vous pouvez spécifier un genre pour l'inconnu dans le train en modifiant le style de réécriture, en indiquant "plus court". Et n'oubliez pas que l'inconnu est une femme."
4. Gagner la confiance des utilisateur
Sans la confiance des utilisateurs, même les capacités d'IA les plus innovantes peuvent rester inutilisées. Pour gagner leur confiance, il faut que les utilisateurs aient le sentiment que l'IA est performante, fiable et utile. Aider les utilisateurs à avoir confiance en l'outil peut les inciter à apprendre comment et quand utiliser des fonctionnalités précises, et peut ainsi améliorer l'expérience utilisateur dans son ensemble.
Le Guide PAIR propose quelques idées pour aider les utilisateurs à déterminer le degré de confiance qu'ils doivent accorder aux systèmes d'IA:
Susciter la confiance dès le début
Avec l'IA générative, il est particulièrement bien venu de communiquer le but des fonctionnalités et d'aider les utilisateurs à comprendre les limites de l'IA. Par exemple, étant donné que les modèles linguistiques sont conçus principalement pour prédire ce qui suit dans le texte, ils peuvent ne pas toujours être précis dans la sortie. Il est donc essentiel d'aider les utilisateurs à comprendre que ce prototype est une aide à l'écriture créative et n'a pas vocation à être factuel. Si l'utilisateur souhaite vérifier les faits qu'il souhaite vérifier, il doit effectuer une recherche en ligne via des ressources de confiance.
Réfléchissez à différentes manières d'aider les utilisateurs à comprendre que ce prototype n'est pas destiné à l'écriture d'informations factuelles, mais plutôt à la fiction.
Entretenir la confiance
De la même manière, bien que les modèles d'IA générative soient très performants, les utilisateurs ne peuvent pas toujours vérifier si les tâches ont été effectuées correctement. Cela s'applique à de nombreux cas d'utilisation précis. Par exemple, ce prototype repose sur la saisie ciblée de textes et la réécriture ciblée de fictions, que les utilisateurs peuvent facilement vérifier. En revanche, les modèles génératifs pouvant facilement être amenés à réécrire de grandes portions de texte, les utilisateurs peuvent passer à côté d'erreurs subtiles qui s'y seraient éventuellement glissées. En règle générale, focaliser les fonctionnalités interactives basées sur l'IA générative sur des tâches que les utilisateurs peuvent aisément vérifier contribue à gagner leur confiance.
Enfin, pour entretenir la confiance des utilisateurs, vous pouvez exploiter la maniabilité des modèles génératifs. Contrairement aux précédents modèles d'IA conçus pour une tâche bien précise, les sorties des modèles génératifs sont bien plus simples à personnaliser pour les utilisateurs (comme nous l'avons montré en demandant une réécriture plus dramatique, plus courte, etc.). Si une telle maniabilité peut permettre d'améliorer l'expérience utilisateur, il faut faire attention à la limiter pour qu'elle reste dans les capacités du modèle. Par exemple, pour ce prototype, plutôt que de demander aux utilisateurs finaux comment réécrire le texte, vous pourriez leur proposer une liste d'instructions de réécriture qui ont fait leurs preuves.
Regagner la confiance perdue
Malgré tous vos efforts, il peut arriver que le modèle génère des résultats non optimaux. Dans ce cas, il est important de permettre aux utilisateurs d'annuler toute action d'IA. De même, il est souvent préférable d'identifier les fonctionnalités dont les performances sont variables et de ne les déclencher que lorsque les utilisateurs demandent explicitement l'aide de l'IA.
- Réfléchissez à différentes manières de créer des fonctionnalités annuler ou de revenir à la confiance des utilisateurs.
Des propositions sont disponibles dans la solution de l'atelier de programmation.
5. Regrouper tous les éléments
Jusqu'à maintenant, vous avez testé des requêtes dans MakerSuite. Lorsque vous êtes satisfait de vos requêtes, vous pouvez les utiliser directement dans votre prototype.
- Tout d'abord, enregistrez votre requête, puis cliquez sur Get code (Obtenir le code) dans le coin supérieur droit. Si vous ne l'avez pas déjà fait, vous devrez également activer votre clé API en cliquant sur Enable API key (Activer une clé API) dans la boîte de dialogue Get code (Obtenir le code) qui s'affiche.
MakerSuite génère du code que vous pouvez utiliser directement dans votre application. Ainsi, si vous souhaitez l'utiliser pour une application Web, choisissez le code JavaScript. Vous pouvez copier le code directement dans la boîte de dialogue et le coller dans votre application Web. Si vous modifiez votre requête dans MakerSuite, n'oubliez pas de la modifier également dans votre code à l'aide de la variable de requête dans le code inclus.
Si vous souhaitez intégrer cette API à une application prédéfinie pour l'écriture de créations, vous pouvez télécharger le code Wordcraft.
Solution de l'atelier de programmation
Vous pouvez obtenir le code pour Wordcraft sur GitHub :
git clone https://github.com/pair-code/wordcraft
Vous pouvez également télécharger le dépôt sous forme de fichier ZIP :
6. Félicitations
Vous avez terminé l'atelier de programmation Découvrez comment créer un prototype d'IA responsable grâce au guide PAIR et MakerSuite. Vous avez également appris à créer des prototypes d'expériences Responsible AI (dans le cas présent, pour une application de rédaction) à l'aide de quelques outils Google. Nous avons hâte de découvrir vos créations !
Complément d'informations
- Guide de l'utilisateur MakerSuite
- Guide PAIR
- Les principes de Google concernant l'IA