1. Objectifs
Présentation
Cet atelier de programmation vise à créer une application Vertex AI Vision de bout en bout pour surveiller des séquences vidéo de trafic en temps réel. Nous utiliserons le modèle spécialisé pré-entraîné Analyse de l'occupation. intégrées pour capturer les éléments suivants:
- Comptez le nombre de véhicules et de personnes qui traversent une route au niveau d'une ligne donnée.
- Comptez le nombre de véhicules/personnes dans une zone fixe de la route.
- détecter les embouteillages dans n'importe quelle partie de la route ;
Points abordés
- Configurer une VM pour ingérer des vidéos en streaming
- Créer une application dans Vertex AI Vision
- Différentes fonctionnalités disponibles dans Occupancy Analytics et comment les utiliser
- Déployer l'application
- Rechercher des vidéos dans l'entrepôt multimédia de Vertex AI Vision
- Comment connecter la sortie à BigQuery, écrire une requête SQL pour extraire des insights de la sortie JSON du modèle et visualiser le résultat dans Looker Studio en temps réel.
2. Avant de commencer
- Dans la console Google Cloud, sur la page de sélection du projet, sélectionnez ou créez un projet Google Cloud. Remarque: Si vous ne prévoyez pas de conserver les ressources créées au cours de cette procédure, créez un projet au lieu de sélectionner un projet existant. Après avoir suivi ces étapes, vous pouvez supprimer le projet. Cela entraîne la suppression de toutes les ressources qui lui sont associées. Accéder au sélecteur de projet
- Assurez-vous que la facturation est activée pour votre projet Cloud. Découvrez comment vérifier si la facturation est activée sur un projet.
- Activez les API Compute Engine et Vision AI. Activer les API
Créez un compte de service:
- Dans la console Google Cloud, accédez à la page Créer un compte de service. Accéder à la page "Créer un compte de service"
- Sélectionnez votre projet.
- Dans le champ Nom du compte de service, saisissez un nom. La console Google Cloud renseigne le champ ID de compte de service à partir de ce nom. Dans le champ Description du compte de service, saisissez une description. Par exemple, "Compte de service" pour le guide de démarrage rapide.
- Cliquez sur Créer et continuer.
- Pour accorder l'accès à votre projet, attribuez le ou les rôles suivants à votre compte de service: Vision AI > Éditeur Vision AI, Compute Engine > Administrateur d'instances Compute (bêta), Stockage > Lecteur des objets Storage† . Dans la liste Sélectionnez un rôle, choisissez un rôle. Pour ajouter des rôles supplémentaires, cliquez sur Ajouter un autre rôle, puis ajoutez chaque rôle supplémentaire. Remarque: Le champ Rôle détermine les ressources auxquelles votre compte de service peut accéder dans votre projet. Vous pouvez révoquer ces rôles ou attribuer des rôles supplémentaires ultérieurement. Dans les environnements de production, n'accordez pas les rôles Propriétaire, Éditeur ou Lecteur. Attribuez plutôt un rôle prédéfini ou un rôle personnalisé répondant à vos besoins.
- Cliquez sur Continuer.
- Cliquez sur OK pour terminer la création du compte de service. Ne fermez pas la fenêtre de votre navigateur. Vous en aurez besoin lors de la tâche suivante.
Créez une clé de compte de service:
- Dans la console Google Cloud, cliquez sur l'adresse e-mail du compte de service que vous avez créé.
- Cliquez sur Clés.
- Cliquez sur Ajouter une clé, puis sur Créer une clé.
- Cliquez sur Create (Créer). Un fichier de clé JSON est téléchargé sur votre ordinateur.
- Cliquez sur Fermer.
- Installez et initialisez la Google Cloud CLI.
† Rôle requis uniquement si vous copiez un exemple de fichier vidéo à partir d'un bucket Cloud Storage.
3. Configurer une VM pour diffuser une vidéo en streaming
Avant de créer une application dans l'analyse de l'occupation, vous devez enregistrer un flux que l'application pourra utiliser ultérieurement.
Dans ce tutoriel, vous allez créer une instance de VM Compute Engine qui héberge une vidéo, puis envoyer ces données vidéo en flux continu depuis la VM.
Créer une VM Linux
La première étape de l'envoi d'une vidéo à partir d'une instance de VM Compute Engine consiste à créer l'instance de VM.
- Dans la console, accédez à la page Instances de VM. Accéder à la page "Instances de VM"
- Sélectionnez le projet et cliquez sur Continuer.
- Cliquez sur Create instance (Créer une instance).
- Spécifiez un nom pour votre VM. Pour en savoir plus, consultez Convention d'attribution de noms pour les ressources.
- Facultatif : modifiez la zone de cette VM. Compute Engine propose une liste aléatoire des zones de chaque région pour encourager l'utilisation dans plusieurs zones.
- Acceptez les autres options par défaut. Pour en savoir plus sur ces options, consultez Créer et démarrer une VM.
- Pour créer et démarrer la VM, cliquez sur Créer.
Configurer l'environnement de VM
Une fois la VM démarrée, vous pouvez utiliser la console pour vous connecter en SSH à la VM depuis votre navigateur. Vous pouvez ensuite télécharger l'outil de ligne de commande vaictl pour ingérer des vidéos dans votre flux.
Établir une connexion SSH avec votre VM
- Dans la console, accédez à la page Instances de VM. Accéder à la page "Instances de VM"
- Dans la section Connecter de la ligne d'instance que vous avez créée, cliquez sur SSH. Une connexion SSH s'ouvre dans une nouvelle fenêtre du navigateur.
Télécharger l'outil de ligne de commande vaictl
- Dans la fenêtre SSH dans le navigateur, téléchargez l'outil de ligne de commande Vertex AI Vision (vaictl) à l'aide de la commande suivante:
wget https://github.com/google/visionai/releases/download/v0.0.4/visionai_0.0-4_amd64.deb
- Installez l'outil de ligne de commande en exécutant la commande suivante:
sudo apt install ./visionai_0.0-4_amd64.deb
- Vous pouvez tester l'installation en exécutant la commande suivante:
vaictl --help
4. Ingérer un fichier vidéo pour le streaming
Après avoir configuré votre environnement de VM, vous pouvez copier un exemple de fichier vidéo, puis utiliser vaictl pour diffuser les données vidéo vers votre application d'analyse d'occupation.
Commencez par activer l'API Vision AI dans la console Cloud
Enregistrer une nouvelle diffusion
- Cliquez sur l'onglet "Flux" dans le panneau de gauche de Vertex AI Vision.
- Cliquez sur "S'inscrire".
- Dans le champ "Nom du flux", saisissez "traffic-stream".
- Dans la région, saisissez "us-central1".
- Cliquez sur "S'inscrire".
L'inscription à la diffusion prend quelques minutes.
Copier un exemple de vidéo sur votre VM
- Dans la fenêtre SSH dans le navigateur de votre VM, copiez un exemple de vidéo à l'aide de la commande gsutil cp suivante. Remplacez la variable suivante :
- SOURCE: emplacement du fichier vidéo à utiliser. Vous pouvez utiliser votre propre source de fichier vidéo (par exemple, gs://NOM_BUCKET/FILENAME.mp4) ou utiliser l'exemple de vidéo (gs://cloud-samples-data/vertex-ai-vision/street_vehicles_people.mp4)(vidéo avec des personnes et des véhicules, source).
export SOURCE=gs://cloud-samples-data/vertex-ai-vision/street_vehicles_people.mp4 gsutil cp $SOURCE .
Diffuser des vidéos en streaming à partir d'une VM et ingérer des données dans votre flux
- Pour envoyer ce fichier vidéo local au flux d'entrée de l'application, utilisez la commande suivante. Vous devez effectuer les substitutions de variables suivantes:
- PROJECT_ID: ID de votre projet Google Cloud.
- LOCATION_ID: ID de votre zone géographique. Par exemple, us-central1. Pour en savoir plus, consultez la section Emplacements Cloud.
- LOCAL_FILE: nom d'un fichier vidéo local. Par exemple, street_vehicles_people.mp4.
- L'option –loop: facultatif. Boucle les données du fichier pour simuler un flux de données.
export PROJECT_ID=<Your Google Cloud project ID> export LOCATION_ID=us-central1 export LOCAL_FILE=street_vehicles_people.mp4
- Cette commande diffuse un fichier vidéo dans un flux. Si vous utilisez l'option –loop, la vidéo est lue en boucle dans le flux jusqu'à ce que vous arrêtiez la commande. Nous allons exécuter cette commande en tant que tâche d'arrière-plan afin que son flux continue, même après la déconnexion de la VM.
- ( ajoutez « nohup » au début et « & » à la fin pour le faire fonctionner en arrière-plan)
nohup vaictl -p $PROJECT_ID \
-l $LOCATION_ID \
-c application-cluster-0 \
--service-endpoint visionai.googleapis.com \
send video-file to streams 'traffic-stream' --file-path $LOCAL_FILE --loop &
Il peut s'écouler environ 100 secondes entre le démarrage de l'opération d'ingestion vaictl et l'affichage de la vidéo dans le tableau de bord.
Une fois l'ingestion du flux disponible, vous pouvez afficher le flux vidéo dans l'onglet Flux du tableau de bord Vertex AI Vision en sélectionnant le flux de trafic.
Vidéo en direct ingérée dans le flux de la console Google Cloud. Crédit vidéo: Elizabeth Mavor sur Pixabay (ajout de la pixellisation)
5. Créer une application
La première étape consiste à créer une application qui traite vos données. Une application peut être considérée comme un pipeline automatisé qui connecte les éléments suivants:
- Ingestion de données: un flux vidéo est ingéré dans un flux.
- Analyse des données: un modèle d'IA(Vision par ordinateur) peut être ajouté après l'ingestion.
- Stockage des données: les deux versions du flux vidéo (le flux d'origine et le flux traité par le modèle d'IA) peuvent être stockées dans un entrepôt multimédia.
Dans la console Google Cloud, une application est représentée sous forme de graphique.
Créer une application vide
Avant de pouvoir remplir le graphique de l'application, vous devez d'abord créer une application vide.
Créez une application dans la console Google Cloud.
- Accédez à la console Google Cloud.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision.
Accéder à l'onglet "Applications"
- Cliquez sur le bouton d'ajout Créer.
- Saisissez traffic-app comme nom d'application, puis sélectionnez votre région.
- Cliquez sur Créer.
Ajouter des nœuds de composants d'application
Une fois l'application vide créée, vous pouvez ajouter les trois nœuds au graphique de l'application:
- Nœud d'ingestion: ressource de flux qui ingère les données envoyées à partir d'une instance de VM Compute Engine que vous avez créée.
- Nœud de traitement: modèle d'analyse de l'occupation qui agit sur les données ingérées.
- Nœud de stockage: entrepôt multimédia qui stocke les vidéos traitées et sert de magasin de métadonnées. Les magasins de métadonnées incluent des informations analytiques sur les données vidéo ingérées et des informations déduites par les modèles d'IA.
Ajoutez des nœuds de composants à votre application dans la console.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision. Accéder à l'onglet "Applications"
- Sur la ligne de trafic d'application, sélectionnez Afficher le graphique. La visualisation graphique du pipeline de traitement s'affiche.
Ajouter un nœud d'ingestion de données
- Pour ajouter un nœud de flux d'entrée, sélectionnez l'option Flux dans la section Connecteurs du menu latéral.
- Dans la section Source du menu Flux qui s'affiche, sélectionnez Ajouter des flux.
- Dans le menu Ajouter des flux, sélectionnez Enregistrer de nouveaux flux, puis ajoutez un flux de trafic comme nom de flux.
- Pour ajouter le flux au graphique de l'application, cliquez sur Ajouter des flux.
Ajouter un nœud de traitement des données
- Pour ajouter le nœud du modèle de nombre d'occupations, sélectionnez l'option d'analyse de l'occupation dans la section Modèles spécialisés du menu latéral.
- Conservez les sélections par défaut Personnes et Véhicules.
- Ajoute des lignes au croisement de lignes. Utilisez l'outil "Ligne à plusieurs points" pour tracer les lignes à partir desquelles vous devez détecter les véhicules ou les personnes qui entrent ou sortent.
- Dessinez les zones actives pour comptabiliser les personnes/véhicules dans ces zones.
- Ajoutez des paramètres de temps d'interaction pour détecter les embouteillages si une zone active est dessinée.
- (actuellement, le passage de zone active et le passage de ligne ne sont pas pris en charge simultanément. Utilisez une seule fonctionnalité à la fois.)
Ajouter un nœud de stockage de données
- Pour ajouter le nœud de destination de sortie (stockage), sélectionnez l'option Entrepôt multimédia de Vertex AI Vision dans la section Connecteurs du menu latéral.
- Dans le menu Entrepôt multimédia de Vertex AI Vision, cliquez sur Connecter un entrepôt.
- Dans le menu Connecter un entrepôt, sélectionnez Créer un entrepôt. Nommez l'entrepôt de trafic de l'entrepôt et laissez la durée TTL à 14 jours.
- Cliquez sur le bouton Créer pour ajouter l'entrepôt.
6. Connecter la sortie à la table BigQuery
Lorsque vous ajoutez un connecteur BigQuery à votre application Vertex AI Vision, toutes les sorties du modèle d'application connecté sont ingérées dans la table cible.
Vous pouvez créer votre propre table BigQuery et la spécifier lorsque vous ajoutez un connecteur BigQuery à l'application, ou laisser la plate-forme d'applications Vertex AI Vision créer automatiquement la table.
Création automatique de tableaux
Si vous autorisez la plate-forme d'applications Vertex AI Vision à créer automatiquement la table, vous pouvez spécifier cette option lorsque vous ajoutez le nœud du connecteur BigQuery.
Les conditions suivantes pour l'ensemble de données et la table s'appliquent si vous souhaitez utiliser la création automatique de tables:
- Ensemble de données: le nom de l'ensemble de données créé automatiquement est visionai_dataset.
- Table: le nom de la table créée automatiquement est visionai_dataset.APPLICATION_ID.
- Traitement des erreurs:
- Si une table portant le même nom sous le même ensemble de données existe, aucune création automatique n'est effectuée.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision. Accéder à l'onglet "Applications"
- Dans la liste, sélectionnez Afficher l'application à côté du nom de votre application.
- Sur la page du générateur d'applications, sélectionnez BigQuery dans la section Connecteurs.
- Laissez le champ Chemin d'accès BigQuery vide.
- Dans les métadonnées du magasin à partir de, sélectionnez uniquement "Analyse de l'occupation". et décochez les flux.
Le graphique final de l'application doit se présenter comme suit:
7. Déployer votre application pour l'utiliser
Une fois que vous avez créé votre application de bout en bout avec tous les composants nécessaires, la dernière étape pour l'utiliser consiste à la déployer.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision. Accéder à l'onglet "Applications"
- Sélectionnez Afficher le graphique à côté de l'application qui gère le trafic dans la liste.
- Sur la page du générateur de graphiques de l'application, cliquez sur le bouton Déployer.
- Dans la boîte de dialogue de confirmation suivante, sélectionnez Déployer. L'opération de déploiement peut prendre plusieurs minutes. Une fois le déploiement terminé, des coches vertes apparaissent à côté des nœuds.
8. Rechercher du contenu vidéo dans l'entrepôt de stockage
Après avoir ingéré des données vidéo dans votre application de traitement, vous pouvez consulter les données vidéo analysées et effectuer des recherches sur la base des informations d'analyse de l'occupation.
- Ouvrez l'onglet Entrepôts du tableau de bord Vertex AI Vision. Accéder à l'onglet "Entrepôts"
- Recherchez l'entrepôt de trafic dans la liste, puis cliquez sur Afficher les actifs.
- Dans la section Nombre de personnes ou Nombre de véhicules, définissez la valeur Min sur 1 et la valeur Max sur 5.
- Pour filtrer les données vidéo traitées stockées dans l'entrepôt multimédia de Vertex AI Vision, cliquez sur Rechercher.
Affichage des données vidéo stockées correspondant aux critères de recherche de la console Google Cloud. Crédit vidéo: Elizabeth Mavor sur Pixabay (critères de recherche appliqués).
9. Analyser le résultat dans une table BigQuery
Accéder à BigQuery
Sélectionner l'ensemble de données: visionai_dataset
Sélectionnez le tableau: votre APPLICATION_ID (dans ce cas, traffic-app)
Cliquez sur les trois points à droite du nom de la table, puis sur "Requête".
Écrivez la requête suivante
Requête 1: Requête pour vérifier le nombre de véhicules dépassant chaque ligne par minute
abc.sql
—- Get list of active marked lines for each timeframe
WITH line_array AS (
SELECT
t.ingestion_time AS ingestion_time,
JSON_QUERY_ARRAY(t.annotation.stats["crossingLineCounts"]) AS lines
FROM
`PROJ_ID.visionai_dataset.APP_ID` AS t
),
—- Flatten active lines to get individual entities details
flattened AS (
SELECT
line_array.ingestion_time,
JSON_VALUE(line.annotation.id) as line_id,
JSON_QUERY_ARRAY(line["positiveDirectionCounts"]) AS entities
FROM line_array, unnest(line_array.lines) as line
)
—- Generate aggregate vehicle count per zone w.r.t time
SELECT
STRING(TIMESTAMP_TRUNC(ingestion_time, MINUTE) ) AS time, line_id,
SUM(INT64(entity["count"])) as vehicle_count
FROM
flattened, UNNEST(flattened.entities) AS entity
WHERE JSON_VALUE(entity['entity']['labelString']) = 'Vehicle'
GROUP BY time, line_id
Requête 2: Requête pour vérifier le nombre de véhicules par minute dans chaque zone
—- Get list of active zones for each timeframe
WITH zone_array AS (
SELECT
t.ingestion_time AS ingestion_time,
JSON_QUERY_ARRAY(t.annotation.stats["activeZoneCounts"]) AS zones
FROM
`PROJ_ID.visionai_dataset.APP_ID` AS t
),
—- Flatten active zones to get individual entities details
flattened AS (
SELECT zone_array.ingestion_time, JSON_VALUE(zone.annotation.id) as zone_id,
JSON_QUERY_ARRAY(zone["counts"]) AS entities
FROM zone_array, unnest(zone_array.zones) as zone
)
—- Generate aggregate vehicle count per zone w.r.t time
SELECT
STRING(TIMESTAMP_TRUNC(ingestion_time, MINUTE) ) AS time,
zone_id,
SUM(INT64(entity["count"])) as vehicle_count
FROM flattened, UNNEST(flattened.entities) AS entity
WHERE JSON_VALUE(entity['entity']['labelString']) = 'Vehicle'
GROUP BY time, zone_id
Dans les requêtes ci-dessus, vous pouvez modifier "Véhicule" par "Personne" pour compter Person.
Cet atelier de programmation ne présente que l'exemple de données et la visualisation de la Requête 1. Vous pouvez suivre la même procédure pour la Requête 2.
Dans le menu de droite, cliquez sur "Explorer les données", puis sélectionnez "Explorer avec Looker Studio".
Dans la "dimension" permet d'ajouter l'heure et de définir
la configuration de l'heure sur date-heure. Dans la dimension "Répartition" ajoutez line_id. 
Le graphique ci-dessus indique le nombre de véhicules/personnes traversant chaque ligne par minute.
Les barres bleu foncé et bleu clair indiquent les deux ID de ligne.
10. Félicitations
Félicitations, vous avez terminé l'atelier !
Nettoyage
Pour éviter que les ressources utilisées lors de ce tutoriel soient facturées sur votre compte Google Cloud, supprimez le projet contenant les ressources, ou conservez le projet et supprimez chaque ressource individuellement.
Supprimer le projet
Supprimer des ressources individuelles
Ressources
https://cloud.google.com/vision-ai/docs/overview
https://cloud.google.com/vision-ai/docs/occupancy-count-tutorial
Commentaires
Cliquez ici pour nous faire part de vos commentaires