1. Objectifs
Présentation
Cet atelier de programmation vise à créer une application Vertex AI Vision de bout en bout pour surveiller des séquences vidéo de trafic en temps réel. Nous allons utiliser les caractéristiques intégrées du modèle spécialisé pré-entraîné Analyse de l'occupation pour capturer les éléments suivants:
- Compter le nombre de véhicules et de personnes qui traversent une route à un certain endroit
- Comptez le nombre de véhicules/personnes dans une zone fixe de la route.
- détecter les embouteillages dans n'importe quelle partie de la route ;
Points abordés
- Configurer une VM pour ingérer des vidéos à diffuser
- Créer une application dans Vertex AI Vision
- Différentes fonctionnalités disponibles dans Occupancy Analytics et comment les utiliser
- Déployer l'application
- Rechercher des vidéos dans votre espace de stockage Vertex AI Vision Media Warehouse
- Connecter la sortie à BigQuery, écrire une requête SQL pour extraire des insights de la sortie JSON du modèle et visualiser le résultat en temps réel dans Looker Studio.
2. Avant de commencer
- Dans la console Google Cloud, sur la page de sélection du projet, sélectionnez ou créez un projet Google Cloud. Remarque: Si vous ne prévoyez pas de conserver les ressources créées au cours de cette procédure, créez un projet au lieu de sélectionner un projet existant. Après avoir suivi ces étapes, vous pouvez supprimer le projet. Cela entraîne la suppression de toutes les ressources qui lui sont associées. Accéder au sélecteur de projet
- Assurez-vous que la facturation est activée pour votre projet Cloud. Découvrez comment vérifier si la facturation est activée sur un projet.
- Activez les API Compute Engine et Vision AI. Activer les API
Créez un compte de service:
- Dans la console Google Cloud, accédez à la page Créer un compte de service. Accéder à la page "Créer un compte de service"
- Sélectionnez votre projet.
- Dans le champ Nom du compte de service, saisissez un nom. La console Google Cloud remplit le champ ID du compte de service en fonction de ce nom. Dans le champ Description du compte de service, saisissez une description. Par exemple, "Compte de service" pour le guide de démarrage rapide.
- Cliquez sur Créer et continuer.
- Pour accorder l'accès à votre projet, attribuez le ou les rôles suivants à votre compte de service: Vision AI > Éditeur Vision AI, Compute Engine > Administrateur d'instances Compute (bêta), Stockage > Lecteur des objets de l'espace de stockage † . Dans la liste Sélectionner un rôle, sélectionnez un rôle. Pour ajouter des rôles supplémentaires, cliquez sur Ajouter un autre rôle et ajoutez chaque rôle supplémentaire. Remarque: Le champ Rôle détermine les ressources auxquelles votre compte de service peut accéder dans votre projet. Vous pouvez révoquer ces rôles ou attribuer des rôles supplémentaires ultérieurement. Dans les environnements de production, n'attribuez pas les rôles Propriétaire, Éditeur et Lecteur. Attribuez plutôt un rôle prédéfini ou un rôle personnalisé répondant à vos besoins.
- Cliquez sur Continuer.
- Cliquez sur OK pour terminer la création du compte de service. Ne fermez pas la fenêtre de votre navigateur. Vous en aurez besoin lors de la tâche suivante.
Créez une clé de compte de service:
- Dans la console Google Cloud, cliquez sur l'adresse e-mail du compte de service que vous avez créé.
- Cliquez sur Clés.
- Cliquez sur Ajouter une clé, puis sur Créer une clé.
- Cliquez sur Create (Créer). Un fichier de clé JSON est téléchargé sur votre ordinateur.
- Cliquez sur Fermer.
- Installez et initialisez Google Cloud CLI.
† Rôle uniquement nécessaire si vous copiez un exemple de fichier vidéo à partir d'un bucket Cloud Storage.
3. Configurer une VM pour diffuser une vidéo en streaming
Avant de créer une application dans Occupancy Analytics, vous devez enregistrer un flux qui pourra être utilisé ultérieurement par l'application.
Dans ce tutoriel, vous allez créer une instance de VM Compute Engine qui héberge une vidéo et envoyer ces données vidéo en streaming à partir de la VM.
Créer une VM Linux
La première étape de l'envoi de vidéos à partir d'une instance de VM Compute Engine consiste à créer l'instance de VM.
- Dans la console, accédez à la page Instances de VM. Accéder à la page "Instances de VM"
- Sélectionnez le projet et cliquez sur Continuer.
- Cliquez sur Créer une instance.
- Spécifiez un nom pour votre VM. Pour en savoir plus, consultez la section Convention d'attribution de noms aux ressources.
- Facultatif : modifiez la zone de cette VM. Compute Engine propose une liste aléatoire des zones de chaque région pour encourager l'utilisation dans plusieurs zones.
- Acceptez les autres options par défaut. Pour en savoir plus sur ces options, consultez Créer et démarrer une VM.
- Pour créer et démarrer la VM, cliquez sur Créer.
Configurer l'environnement de VM
Une fois la VM démarrée, vous pouvez utiliser la console pour vous connecter à la VM via SSH depuis votre navigateur. Vous pouvez ensuite télécharger l'outil de ligne de commande vaictl pour ingérer des vidéos dans votre flux.
Établir une connexion SSH avec votre VM
- Dans la console, accédez à la page Instances de VM. Accéder à la page "Instances de VM"
- Dans la section Se connecter de la ligne de l'instance que vous avez créée, cliquez sur SSH. Une connexion SSH s'ouvre dans une nouvelle fenêtre de navigateur.
Télécharger l'outil de ligne de commande vaictl
- Dans la fenêtre SSH dans le navigateur, téléchargez l'outil de ligne de commande Vertex AI Vision (vaictl) à l'aide de la commande suivante:
wget https://github.com/google/visionai/releases/download/v0.0.4/visionai_0.0-4_amd64.deb
- Installez l'outil de ligne de commande en exécutant la commande suivante:
sudo apt install ./visionai_0.0-4_amd64.deb
- Vous pouvez tester l'installation en exécutant la commande suivante:
vaictl --help
4. Ingérer un fichier vidéo pour le streaming
Après avoir configuré votre environnement de VM, vous pouvez copier un exemple de fichier vidéo, puis utiliser vaictl pour diffuser les données vidéo dans votre application d'analyse d'occupation.
Commencez par activer l'API Vision AI dans la console Cloud.
Enregistrer un nouveau flux
- Cliquez sur l'onglet "Flux" dans le panneau de gauche de Vertex AI Vision.
- Cliquez sur "S'inscrire".
- Dans le champ "Nom du flux", saisissez "traffic-stream".
- Dans la région, saisissez "us-central1".
- Cliquez sur "S'inscrire".
L'inscription à la diffusion prend quelques minutes.
Copier un exemple de vidéo sur votre VM
- Dans la fenêtre SSH dans le navigateur de votre VM, copiez un exemple de vidéo à l'aide de la commande gsutil cp suivante. Remplacez la variable suivante :
- SOURCE: emplacement du fichier vidéo à utiliser. Vous pouvez utiliser votre propre source de fichier vidéo (par exemple, gs://BUCKET_NAME/FILENAME.mp4) ou l'exemple de vidéo (gs://cloud-samples-data/vertex-ai-vision/street_vehicles_people.mp4)(vidéo avec des personnes et des véhicules, source).
export SOURCE=gs://cloud-samples-data/vertex-ai-vision/street_vehicles_people.mp4 gsutil cp $SOURCE .
Diffuser des vidéos en streaming à partir d'une VM et ingérer des données dans votre flux
- Pour envoyer ce fichier vidéo local au flux d'entrée de l'application, utilisez la commande suivante. Vous devez effectuer les substitutions de variables suivantes:
- PROJECT_ID: ID de votre projet Google Cloud.
- LOCATION_ID: ID de votre établissement. Par exemple, us-central1. Pour en savoir plus, consultez la section Emplacements Cloud.
- LOCAL_FILE: nom d'un fichier vidéo local. Par exemple, street_vehicles_people.mp4.
- Option -loop: facultative. Boucle les données de fichier pour simuler le streaming.
export PROJECT_ID=<Your Google Cloud project ID> export LOCATION_ID=us-central1 export LOCAL_FILE=street_vehicles_people.mp4
- Cette commande lit en streaming un fichier vidéo dans un flux. Si vous utilisez l'option -loop, la vidéo est mise en boucle dans le flux jusqu'à ce que vous arrêtiez la commande. Nous allons exécuter cette commande en tant que tâche en arrière-plan pour qu'elle continue de diffuser même après la déconnexion de la VM.
- ( ajoutez nohup au début et "&" à la fin pour en faire une tâche en arrière-plan)
nohup vaictl -p $PROJECT_ID \
-l $LOCATION_ID \
-c application-cluster-0 \
--service-endpoint visionai.googleapis.com \
send video-file to streams 'traffic-stream' --file-path $LOCAL_FILE --loop &
L'opération d'ingestion vaictl peut prendre environ 100 secondes avant que la vidéo ne s'affiche dans le tableau de bord.
Une fois l'ingestion du flux disponible, vous pouvez afficher le flux vidéo dans l'onglet Flux du tableau de bord Vertex AI Vision en sélectionnant le flux de trafic.
Vue en direct de la vidéo ingéré dans le flux dans la console Google Cloud. Crédit vidéo: Elizabeth Mavor sur Pixabay (pixelisation ajoutée).
5. Créer une application
La première étape consiste à créer une application qui traite vos données. Une application peut être considérée comme un pipeline automatisé qui connecte les éléments suivants:
- Ingestion de données: un flux vidéo est ingéré dans un flux.
- Analyse des données: un modèle d'IA(Vision par ordinateur) peut être ajouté après l'ingestion.
- Stockage de données: les deux versions du flux vidéo (le flux d'origine et le flux traité par le modèle d'IA) peuvent être stockées dans un entrepôt multimédia.
Dans la console Google Cloud, une application est représentée sous forme de graphique.
Créer une application vide
Avant de pouvoir renseigner le graphique de l'application, vous devez d'abord créer une application vide.
Créez une application dans la console Google Cloud.
- Accédez à la console Google Cloud.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision.
Accéder à l'onglet "Applications"
- Cliquez sur le bouton d'ajout Créer.
- Saisissez "traffic-app" comme nom de l'application, puis choisissez votre région.
- Cliquez sur Créer.
Ajouter des nœuds de composants d'application
Une fois l'application vide créée, vous pouvez ajouter les trois nœuds au graphique de l'application:
- Nœud d'ingestion: ressource de flux qui ingère les données envoyées à partir d'une instance de VM Compute Engine que vous créez.
- Nœud de traitement: modèle d'analyse de l'occupation qui agit sur les données ingérées.
- Nœud de stockage: entrepôt multimédia qui stocke les vidéos traitées et sert de magasin de métadonnées. Les magasins de métadonnées incluent des informations analytiques sur les données vidéo ingérées et des informations inférées par les modèles d'IA.
Ajoutez des nœuds de composant à votre application dans la console.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision. Accéder à l'onglet "Applications"
- Sur la ligne "traffic-app", sélectionnez Afficher le graphique. La visualisation graphique du pipeline de traitement s'affiche.
Ajouter un nœud d'ingestion de données
- Pour ajouter un nœud de flux d'entrée, sélectionnez l'option Flux dans la section Connecteurs du menu latéral.
- Dans la section Source du menu Flux qui s'affiche, sélectionnez Ajouter des flux.
- Dans le menu Ajouter des flux, sélectionnez Enregistrer de nouveaux flux, puis ajoutez un flux de trafic comme nom de flux.
- Pour ajouter le flux au graphique de l'application, cliquez sur Ajouter des flux.
Ajouter un nœud de traitement des données
- Pour ajouter le nœud du modèle de nombre d'occupations, sélectionnez l'option d'analyse de l'occupation dans la section Modèles spécialisés du menu latéral.
- Conservez les sélections par défaut Personnes et Véhicules.
- Ajouter des lignes dans la section "Croisement de lignes" Utilisez l'outil de ligne multipoint pour dessiner les lignes où vous devez détecter les voitures ou les personnes qui partent ou arrivent.
- Dessinez les zones actives pour comptabiliser les personnes/véhicules qui s'y trouvent.
- Ajoutez des paramètres pour la durée d'inactivité afin de détecter la congestion si une zone active est dessinée.
- (actuellement, la zone active et le franchissement de ligne ne sont pas acceptés simultanément. Utilisez une seule fonctionnalité à la fois.)
Ajouter un nœud de stockage de données
- Pour ajouter le nœud de destination de sortie (stockage), sélectionnez l'option Entrepôt multimédia de Vertex AI Vision dans la section Connecteurs du menu latéral.
- Dans le menu Entrepôt multimédia de Vertex AI Vision, cliquez sur Connecter un entrepôt.
- Dans le menu Connecter un entrepôt, sélectionnez Créer un entrepôt. Nommez l'entrepôt "traffic-warehouse" et laissez la durée TTL à 14 jours.
- Cliquez sur le bouton Créer pour ajouter l'entrepôt.
6. Connecter la sortie à une table BigQuery
Lorsque vous ajoutez un connecteur BigQuery à votre application Vertex AI Vision, toutes les sorties du modèle d'application connecté sont ingérées dans la table cible.
Vous pouvez créer votre propre table BigQuery et la spécifier lorsque vous ajoutez un connecteur BigQuery à l'application, ou laisser la plate-forme d'application Vertex AI Vision créer automatiquement la table.
Création automatique de tableaux
Si vous laissez la plate-forme d'application Vertex AI Vision créer automatiquement la table, vous pouvez spécifier cette option lorsque vous ajoutez le nœud de connecteur BigQuery.
Les conditions suivantes s'appliquent si vous souhaitez utiliser la création automatique de tableaux:
- Ensemble de données: le nom de l'ensemble de données créé automatiquement est "visionai_dataset".
- Table: le nom de la table créée automatiquement est visionai_dataset.APPLICATION_ID.
- Gestion des erreurs:
- Si une table du même nom existe dans le même ensemble de données, aucune création automatique n'est effectuée.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision. Accéder à l'onglet "Applications"
- Dans la liste, sélectionnez Afficher l'application à côté du nom de votre application.
- Sur la page de l'outil de création d'applications, sélectionnez BigQuery dans la section Connecteurs.
- Laissez le champ Chemin d'accès BigQuery vide.
- Dans Stocker les métadonnées à partir de, sélectionnez uniquement "Données analytiques sur l'occupation" et désélectionnez les flux.
Le graphique final de l'application doit se présenter comme suit:
7. Déployer votre application pour l'utiliser
Une fois que vous avez créé votre application de bout en bout avec tous les composants nécessaires, la dernière étape consiste à la déployer.
- Ouvrez l'onglet Applications du tableau de bord Vertex AI Vision. Accéder à l'onglet "Applications"
- Sélectionnez Afficher le graphique à côté de l'application qui gère le trafic dans la liste.
- Sur la page de l'outil de création de graphiques d'application, cliquez sur le bouton Deploy (Déployer).
- Dans la boîte de dialogue de confirmation suivante, sélectionnez Déployer. L'opération de déploiement peut prendre plusieurs minutes. Une fois le déploiement terminé, des coches vertes s'affichent à côté des nœuds.
8. Rechercher du contenu vidéo dans l'entrepôt de stockage
Une fois que vous avez ingéré des données vidéo dans votre application de traitement, vous pouvez afficher les données vidéo analysées et les rechercher en fonction des informations d'analyse de l'occupation.
- Ouvrez l'onglet Entrepôts du tableau de bord Vertex AI Vision. Accéder à l'onglet "Entrepôts"
- Recherchez l'entrepôt traffic-warehouse dans la liste, puis cliquez sur Afficher les composants.
- Dans la section Nombre de personnes ou Nombre de véhicules, définissez la valeur Min sur 1 et la valeur Max sur 5.
- Pour filtrer les données vidéo traitées stockées dans le Media Warehouse de Vertex AI Vision, cliquez sur Rechercher.
Affichage des données vidéo stockées qui correspondent aux critères de recherche dans la console Google Cloud. Crédit vidéo: Elizabeth Mavor sur Pixabay (critères de recherche appliqués).
9. Analyser la sortie dans une table BigQuery
Accéder à BigQuery
Sélectionnez l'ensemble de données: visionai_dataset.
Sélectionnez la table: votre APPLICATION_ID (dans ce cas, traffic-app).
Cliquez sur les trois points à droite du nom de la table, puis sur "Requête".
Écrivez la requête suivante
Requête 1: Requête pour vérifier le nombre de véhicules dépassant chaque ligne par minute
abc.sql
—- Get list of active marked lines for each timeframe
WITH line_array AS (
SELECT
t.ingestion_time AS ingestion_time,
JSON_QUERY_ARRAY(t.annotation.stats["crossingLineCounts"]) AS lines
FROM
`PROJ_ID.visionai_dataset.APP_ID` AS t
),
—- Flatten active lines to get individual entities details
flattened AS (
SELECT
line_array.ingestion_time,
JSON_VALUE(line.annotation.id) as line_id,
JSON_QUERY_ARRAY(line["positiveDirectionCounts"]) AS entities
FROM line_array, unnest(line_array.lines) as line
)
—- Generate aggregate vehicle count per zone w.r.t time
SELECT
STRING(TIMESTAMP_TRUNC(ingestion_time, MINUTE) ) AS time, line_id,
SUM(INT64(entity["count"])) as vehicle_count
FROM
flattened, UNNEST(flattened.entities) AS entity
WHERE JSON_VALUE(entity['entity']['labelString']) = 'Vehicle'
GROUP BY time, line_id
Requête 2: Requête permettant de vérifier le nombre de véhicules par minute dans chaque zone
—- Get list of active zones for each timeframe
WITH zone_array AS (
SELECT
t.ingestion_time AS ingestion_time,
JSON_QUERY_ARRAY(t.annotation.stats["activeZoneCounts"]) AS zones
FROM
`PROJ_ID.visionai_dataset.APP_ID` AS t
),
—- Flatten active zones to get individual entities details
flattened AS (
SELECT zone_array.ingestion_time, JSON_VALUE(zone.annotation.id) as zone_id,
JSON_QUERY_ARRAY(zone["counts"]) AS entities
FROM zone_array, unnest(zone_array.zones) as zone
)
—- Generate aggregate vehicle count per zone w.r.t time
SELECT
STRING(TIMESTAMP_TRUNC(ingestion_time, MINUTE) ) AS time,
zone_id,
SUM(INT64(entity["count"])) as vehicle_count
FROM flattened, UNNEST(flattened.entities) AS entity
WHERE JSON_VALUE(entity['entity']['labelString']) = 'Vehicle'
GROUP BY time, zone_id
Dans les requêtes ci-dessus, vous pouvez remplacer "Véhicule" par "Personne" pour comptabiliser les personnes.
Cet atelier de programmation n'affichera que les données et la visualisation de l'exemple de requête 1. Vous pouvez suivre la même procédure pour la requête 2.
Cliquez sur "Explorer les données" dans le menu de droite, puis sélectionnez "Explorer avec Looker Studio".
Dans le volet "Dimension", ajoutez l'heure et définissez la configuration de l'heure sur "date-heure". Dans "Dimension "Répartition"", ajoutez line_id. 
Le graphique ci-dessus indique le nombre de véhicules/personnes qui traversent chaque ligne par minute.
Les barres bleu foncé et bleu clair indiquent les deux ID de ligne différents.
10. Félicitations
Félicitations, vous avez terminé l'atelier !
Nettoyage
Pour éviter que les ressources utilisées lors de ce tutoriel soient facturées sur votre compte Google Cloud, supprimez le projet contenant les ressources, ou conservez le projet et supprimez chaque ressource individuellement.
Supprimer le projet
Supprimer des ressources individuelles
Ressources
https://cloud.google.com/vision-ai/docs/overview
https://cloud.google.com/vision-ai/docs/occupancy-count-tutorial
Commentaires
Cliquez ici pour envoyer vos commentaires