1. Introduction
Vous êtes passionné de lecture, mais ne savez plus où donner de la tête parmi tous les ouvrages disponibles ? Imaginez une appli optimisée par l'IA qui non seulement vous recommande le livre parfait, mais vous en propose également un résumé concis, selon le genre de votre choix, vous donnant ainsi un aperçu des grandes lignes de l'œuvre. Au cours de cet atelier de programmation, je vais vous expliquer comment créer une telle application avec BigQuery et Cloud Functions, avec l'aide de Gemini.
Présentation du projet
Notre cas d'utilisation s'articule autour des quatre composants clés suivants :
- Base de données de livres: le vaste ensemble de données public BigQuery composé de livres archivés sur Internet nous servira de catalogue complet de livres.
- Moteur de synthèse par IA: Google Cloud Functions, équipé du modèle de langage Gemini-Pro, génère des résumés pertinents adaptés aux requêtes des utilisateurs.
- Intégration de BigQuery: fonction distante de BigQuery qui appelle notre fonction Cloud afin de fournir des thèmes et des résumés de livres à la demande.
- Interface utilisateur: application Web hébergée sur Cloud Run qui propose une application Web permettant aux utilisateurs de consulter les résultats.
Nous allons diviser l'implémentation en trois ateliers de programmation:
Atelier de programmation 1: utiliser Gemini pour concevoir une fonction Cloud Java pour une application Gemini.
Atelier de programmation 2: utiliser Gemini pour concevoir des applications d'IA générative en SQL uniquement avec BigQuery
Atelier de programmation 3: utiliser Gemini pour créer une application Web Java Spring Boot capable d'interagir avec BigQuery
2. Utiliser Gemini pour créer une application d'IA générative sans serveur sur Java Cloud Function
Ce que vous allez faire
Vous allez créer un
- Application Java Cloud Functions qui implémente Gemini 1.0 Pro pour prendre une invite spécifique en entrée sous la forme d'un tableau JSON et renvoie une réponse (valeur JSON libellée "replies").
- Vous allez effectuer les étapes de compilation et de déploiement avec l'aide de Gemini.
3. Conditions requises
Voici les conditions préalables:
Créer votre projet
- Dans la console Google Cloud, sur la page du sélecteur de projet, sélectionnez ou créez un projet Google Cloud.
- Assurez-vous que la facturation est activée pour votre projet Cloud. Découvrez comment vérifier si la facturation est activée sur un projet.
Activer Cloud Shell
- Vous allez utiliser Cloud Shell, un environnement de ligne de commande exécuté dans Google Cloud et fourni avec bq:
Dans la console Cloud, cliquez sur "Activer Cloud Shell" en haut à droite: 
- Une fois connecté à Cloud Shell, vous êtes en principe authentifié, et le projet est déjà défini avec votre ID de projet. Exécutez la commande suivante dans Cloud Shell pour vérifier que vous êtes authentifié :
gcloud auth list
- Exécutez la commande suivante dans Cloud Shell pour vérifier que la commande gcloud reconnaît votre projet
gcloud config list project
- Si votre projet n'est pas défini, utilisez la commande suivante pour le définir :
gcloud config set project <YOUR_PROJECT_ID>
Consultez la documentation pour connaître les commandes gcloud ainsi que leur utilisation.
4. Activer Gemini pour Google Cloud et les API nécessaires
Activer Gemini
- Accédez à Gemini pour Google Cloud dans Marketplace pour activer l'API. Vous pouvez également exécuter la commande suivante :
gcloud services enable cloudaicompanion.googleapis.com --project PROJECT_ID
- Accédez à la page Gemini, puis cliquez sur "Commencer à discuter".
Important: Suivez les étapes 1 et 2 de cet atelier de programmation pour commencer à utiliser Gemini et pour activer Gemini dans l'IDE Cloud Shell, respectivement.
Activer d'autres API nécessaires
Comment faire ? Et si on demandait à Gemini ? Mais avant cela, n'oubliez pas :
Les LLM ont un comportement non déterministe. Pendant que vous suivez ces invites, la réponse que vous recevez peut être différente de celles présentées dans ma capture d'écran.
Accédez à la console de discussion Gemini en cliquant sur l'icône "Ouvrir Gemini" en haut à droite, à côté de la barre de recherche dans la console Google Cloud.
Saisissez cette question dans la section "Saisissez une requête ici" :
How do I enable the cloud functions api using a gcloud command?
Vous devriez recevoir une réponse semblable à celle-ci :
gcloud services enable cloudfunctions.googleapis.com
Copiez-la (vous pouvez utiliser l'icône Copier en haut de l'extrait de commande) et exécutez-la dans le terminal Cloud Shell pour activer les fonctions Cloud. Faites de même pour Cloud Run, car nous avons besoin des deux pour compiler et déployer les fonctions Cloud Functions:
gcloud services enable \
cloudfunctions.googleapis.com \
aiplatform.googleapis.com \
run.googleapis.com \
cloudbuild.googleapis.com
5. Préparer un modèle Cloud Functions avec Gemini
Je suppose que vous avez déjà activé Gemini dans votre IDE Cloud Shell.
Ouvrez l'éditeur Cloud Shell en cliquant sur l'icône Ouvrir l'éditeur en haut à droite de votre terminal Cloud Shell (en général, je préfère ouvrir le terminal et l'éditeur dans des onglets séparés en parallèle afin de pouvoir rédiger du code dans l'un et compiler dans l'autre).
Une fois l'éditeur ouvert, assurez-vous que le logo Gemini situé en bas à droite de la console de l'éditeur est actif et n'a pas été supprimé. Assurez-vous également que votre projet Google Cloud, situé en bas à gauche, pointe vers le projet actif actuel sur lequel vous souhaitez travailler. S'ils sont inactifs, cliquez dessus, activez-les, puis sélectionnez le projet Google Cloud vers lequel vous souhaitez qu'il pointe et activez-les.
Lorsque ces deux éléments sont actifs, cliquez sur le nom du projet en bas à gauche. La liste pop-up "Cloud Code" s'ouvre : parcourez-la jusqu'à voir apparaître "Nouvelle application".
Dans cette liste, sélectionnez "Application Cloud Functions". Dans la liste qui s'affiche, sélectionnez Java :
Dans la liste obtenue, remplacez le nom de projet helloworld par "duetai-gemini-calling", puis cliquez sur OK.
Parfait ! Vous avez amorcé votre application Cloud Functions simple en Java avec Gemini, et vous n'avez rien fait d'autre que les configurations d'activation et d'activation, d'accord ?
Votre projet devrait être structuré de la manière suivante :
Pour le moment, vous êtes prêt à déployer la fonction. mais nous n'en sommes pas encore là. Créons l'implémentation de l'API Gemini Pro dans cette fonction Cloud à l'aide du SDK Java.
Créons maintenant la fonctionnalité pour notre cas d'utilisation, qui consiste à appeler le modèle Gemini Pro dans cette fonction Cloud. Pour ce faire, vous êtes libre d'ajouter d'autres requêtes et de développer votre code de manière incrémentielle avec Gemini, ou d'écrire la logique vous-même. Je vais combiner les deux.
6. Ajouter des dépendances
Dans la console de chat Gemini (celle de l'éditeur de code Cloud dans le volet de gauche), saisissez l'invite suivante:
what is the maven dependency for com.google.cloud.vertexai library
Je demande spécifiquement le package com.google.cloud.vertexai, car c'est celui que j'utilise dans mon code source où j'implémente le code d'appel Gemini.
J'ai obtenu ce résultat:
<dependency>
<groupId>com.google.cloud</groupId>
<artifactId>google-cloud-vertexai</artifactId>
<version>0.1.0</version>
</dependency>
Copiez-le, puis collez-le dans le fichier pom.xml, juste avant la balise </dependencies>. Remplacez la version par 0.1.0 (vous pouvez supprimer la balise <version> si vous utilisez la nomenclature BOM Spring Cloud GCP pour gérer les numéros de version spring-cloud-gcp).
La section des dépendances doit se présenter comme suit:
Veillez à modifier les numéros de version, si nécessaire, pour qu'ils correspondent à ce qui précède. Si vous le remarquez, j'ai également inclus une autre dépendance:
<dependency>
<groupId>com.google.code.gson</groupId>
<artifactId>gson</artifactId>
<version>2.10</version>
</dependency>
7. Modifier le point d'entrée de la fonction et le nom de la classe
- Accédez au fichier "launch.json" dans le dossier ".vscode". Remplacez le nom de la fonction "function-hello-world" par "function-gemini-calling".
- Remplacez la valeur "cloudcode.helloworld.HelloWorld" par "cloudcode.bookshelf.Bookshelf" dans la valeur entryPoint.
- Accédez maintenant au fichier de classe Java "HelloWorld.java". Remplacez le nom du package par package cloudcode.bookshelf. Dans l'erreur qui s'affiche, cliquez sur l'ampoule jaune, puis sur l'option "Déplacer HelloWorld.java" vers le package cloudcode.bookshelf.
- Remplacez le nom de la classe par "Bookshelf". Dans l'erreur qui s'affiche, cliquez sur la petite ampoule jaune, puis sélectionnez "Rename file to Bookshelf.java" (Renommez le fichier en Bookshelf.java). Sélectionnez-la.
8. Créer la méthode qui appelle Gemini Pro
Implémentons cette fonctionnalité dans la classe Bookshelf.java. Remplacez votre fichier Bookshelf.java par le code ci-dessous:
package cloudcode.bookshelf;
import java.io.BufferedWriter;
import com.google.cloud.functions.HttpFunction;
import com.google.cloud.functions.HttpRequest;
import com.google.cloud.functions.HttpResponse;
import com.google.cloud.vertexai.VertexAI;
import com.google.cloud.vertexai.api.GenerateContentResponse;
import com.google.cloud.vertexai.api.GenerationConfig;
import com.google.cloud.vertexai.generativeai.preview.GenerativeModel;
import com.google.cloud.vertexai.generativeai.preview.ResponseHandler;
import java.io.IOException;
import java.util.List;
import java.util.Arrays;
import java.util.Map;
import java.util.LinkedHashMap;
import com.google.gson.Gson;
import com.google.gson.JsonObject;
import com.google.gson.JsonArray;
public class Bookshelf implements HttpFunction {
private static final Gson gson = new Gson();
@Override
public void service(HttpRequest request, HttpResponse response) throws Exception {
BufferedWriter writer = response.getWriter();
// Get the request body as a JSON object.
JsonObject requestJson = new Gson().fromJson(request.getReader(), JsonObject.class);
JsonArray calls_array = requestJson.getAsJsonArray("calls");
JsonArray calls = (JsonArray) calls_array.get(0);
String context = calls.get(0).toString().replace("\"", "");
//Invoke Gemini model
String raw_result = callGemini(context);
raw_result = raw_result.replace("\n","");
String trimmed = raw_result.trim();
List<String> result_list = Arrays.asList(trimmed);
Map<String, List<String>> stringMap = new LinkedHashMap<>();
stringMap.put("replies", result_list);
// Serialization
String return_value = gson.toJson(stringMap);
writer.write(return_value);
}
public String callGemini(String context) throws IOException{
String res = "";
try (VertexAI vertexAi = new VertexAI("REPLACE_WITH_YOUR_PROJECT_ID", "us-central1"); ) {
GenerationConfig generationConfig =
GenerationConfig.newBuilder()
.setMaxOutputTokens(2048)
.setTemperature(0.4F)
.setTopK(32)
.setTopP(1)
.build();
GenerativeModel model = new GenerativeModel("gemini-pro", generationConfig, vertexAi);
GenerateContentResponse response = model.generateContent(context);
res = ResponseHandler.getText(response);
}catch(Exception e){
System.out.println(e);
}
return res;
}
}
Cette classe s'attend à une entrée dans la structure JSON suivante:
{ "calls": [["YOUR_PROMPT_HERE"]] }
La réponse renvoyée est semblable à celle-ci:
(Json) Map<String, List<String>> {"replies": ["response"]}
Essayez l'option Gemini Chat dans l'éditeur Cloud Shell du volet de gauche pour expliquer le code. Vous pouvez également sélectionner tout le code, cliquer sur l'ampoule jaune en haut à gauche de la sélection, puis choisir l'option "Expliquer".
9. Déployer la fonction Cloud
Maintenant que la fonction Cloud est prête, demandons à Gemini comment la déployer. Accédez au chat Gemini dans l'éditeur de code Cloud, puis saisissez ce qui suit:
How to deploy this Cloud Function with a gcloud command?
J'ai obtenu la réponse ci-dessous:
Je voulais maintenant approfondir le sujet. J'ai donc demandé à Gemini de me donner la commande gcloud functions deploy. La réponse est la suivante:
Je ne peux pas vous dire si vous recevrez la même réponse, mais j'ai trouvé intéressant de voir qu'elle est complétée par quelques informations supplémentaires, à ma grande surprise, comme illustré dans l'image ci-dessous:
Format du corps de la requête:
et
Format de réponse:
Déployez maintenant la fonction en exécutant la commande gcloud que Gemini vous a donnée. Pour ce faire, nous devons ouvrir le terminal Cloud Shell. Vous pouvez l'ouvrir dans un nouvel onglet pour https://console.cloud.google.com et vous assurer que le bon projet est sélectionné. Ouvrez le terminal Cloud Shell en cliquant sur l'icône Activer Cloud Shell en haut à droite de la console. Assurez-vous d'être dans le bon dossier de projet à l'aide de la commande ci-dessous:
cd duetai-gemini-calling
Ensuite, exécutez la commande ci-dessous:
gcloud functions deploy bookshelf --runtime java17 --trigger-http --entry-point cloudcode.bookshelf.Bookshelf --allow-unauthenticated
Vous serez invité à répondre à la question "Autoriser les appels non authentifiés de la nouvelle fonction [bookshelf]?". Dites "y", puis appuyez sur Entrée. Si besoin, posez-vous ensuite quelques questions afin de déployer votre fonction Cloud sans serveur avec l'URL déployée: https://us-central1-*******.cloudfunctions.net/étagère.
Appelons maintenant les fonctions Cloud déployées et testons-les.
Remarque: Si vous avez accidentellement ignoré la question "Autoriser les appels non authentifiés" ou sélectionné "N", vous ne pourrez pas accéder au résultat des fonctions Cloud et une erreur d'autorisation s'affichera sans que vous n'accordiez de paramètres IAM supplémentaires. Alors, faites attention à cela.
10. Appeler la fonction Cloud déployée
Demandons-le à Gemini. J'ai saisi l'invite
How to call the deployed cloud function?
J'ai obtenu le résultat suivant: (Il se peut que vous obteniez exactement la même réponse, n'hésitez pas à tester l'invite et à voir la différence dans les réponses.)
Je lui ai posé des questions spécifiques sur d'autres façons d'invoquer la fonction déployée, d'appeler à l'aide de la commande gcloud, etc. J'ai envoyé l'invite ci-dessous:
how to call the deployed cloud function using gcloud
J'ai reçu la réponse ci-dessous: 
Vous pouvez utiliser cette réponse (commande "gcloud functions call") à partir du terminal en effectuant des modifications pour qu'elle fonctionne dans notre scénario (vous pouvez également essayer de transmettre les paramètres dans l'invite elle-même et voir si vous pouvez obtenir l'appel de fonction gcloud détaillé en réponse):
gcloud functions call bookshelf --region=us-central1 --gen2 --data '{"calls":[["Hello! This is my test prompt."]]}'
Voici mon résultat:
11. Effectuer un nettoyage
Vous pouvez supprimer les fonctions Cloud que vous avez créées précédemment en cliquant sur le bouton "SUPPRIMER" sur la page d'informations des fonctions Cloud.
12. Félicitations
Vous avez créé, déployé et testé une fonction Cloud Java pour appeler Gemini 1.0 Pro à l'aide de Gemini. Cette application utilise la requête d'entrée liée à la recommandation de livres avec le résumé et le thème des livres.