Avec l'AIoT, le machine learning sort des clouds
Sur le front des objets connectés, l'intelligence artificielle se délocalise en frontière de réseau. Elle s'intègre à des hubs IoT de proximité voire même s'immisce au cœur des appareils eux-mêmes. Principal défi : optimiser les performances en évitant les allers-retours vers le cloud ou tout autre système d'information centralisé. In fine, l'objectif est évidemment de tendre vers un traitement en temps réel visant à satisfaire des usages de proximité. L'un des grands utilisateurs de cette méthode n'est autre que Google avec son Nest Mini. Lancée en octobre 2019, la deuxième génération de l'assistant vocal d'entrée de gamme est équipée d'une puce taillée pour le machine learning (ML). Grâce à cette capacité d'apprentissage, elle est capable d'exécuter localement certaines tâches récurrentes, par exemple allumer une lumière ou encore jouer un morceau habituel, y compris hors connexion.
Qualifié d'AIoT, le phénomène émerge cependant avant tout dans l'industrie, un secteur historiquement gros consommateur d'objets connectés. Sur ce terrain, le véhicule intelligent affiche comme souvent dans l'IA le cas d'usage le plus évocateur. "Une voiture autonome implique des temps de réponse de quelques millisecondes, de la reconnaissance d'un panneau stop par exemple à l'activation des freins", souligne Florent Cenedese, solutions architect pour Tibco Software, un éditeur de logiciels spécialiste de l'IoT. Résultat : les modèles de machine learning sous le capot devront forcément s'exécuter sur un microcontrôleur embarqué. D'autant plus que la couverture réseau ne sera pas toujours garantie. "En revanche, la phase d'entraînement des modèles ne sera évidemment pas réalisée in situ. Elle sera prise en charge en amont par un cluster de calcul sur la base d'un maximum de cas de figure glanés par un véhicule de test qui aura roulé et pris des images sur des milliers de kilomètres", précise Florent Cenedese.
"La maintenance prédictive est le cas que nous voyons le plus souvent chez nos clients"
Mais l'AIoT ne s'arrête pas à la voiture autonome, loin de là. "La maintenance prédictive est le cas que nous voyons le plus souvent chez nos clients dans ce domaine", dévoile Mouloud Dey, directeur France de l'innovation chez Sas, leader mondial des applications de gestion statistique. Avions, réseaux électriques, réseaux d'eau, trains, etc. Des capteurs sont désormais présents sur tout type d'infrastructure industrielle. Et sur la base des données produites par ces capteurs, des algorithmes de ML anticipent les pannes en détectant les contextes à risque sur la base de l'historique des incidents passés et des conditions dans lesquelles ils sont intervenus (niveaux de température, de pression, d'humidité…). Autres cas d'usage de l'AIoT industriel : l'optimisation des processus des chaînes de montage ou de gestion de la chaîne logistique (lire l'article L'IA, nouvelle arme face aux ruptures de la supply chain).
Très souvent, l'inférence des modèles, une fois ces derniers entraînés, est là encore déportée au plus proche des objets. "L'un de nos clients dans l'électronique a installé des capteurs pour détecter les vibrations de ses équipements de gravure de puces. En mixant cette donnée avec d'autres mesures environnementales comme la température, il applique un modèle de ML pour estimer le risque d'un décalibrage de ces machines-outils", détaille Florent Cenedese. Le modèle en question est motorisé par un microcontrôleur doté d'un écran. Le tout installé au sein des salles blanches utilisées pour la gravure. "L'opérateur est ainsi alerté en temps réel et peut réagir immédiatement sans avoir à se déplacer et retirer sa combinaison (filtrant les particules humaines, ndlr)", ajoute Florent Cenedese.
L'apprentissage en mode edge
Chez Capgemini, on évoque un client fabriquant d'éoliennes cherchant à optimiser ses opérations de terrain. "Nous avons déployé pour lui des caméras intelligentes conçue pour suivre l'état d'avancement de la construction de ses pales et comparer la productivité atteinte par ses différentes implantations", explique Arthur Veisseire, lead data scientist, digital engineering & manufacturing dervices chez Capgemini. Taillé pour traiter les flux vidéo, un microcontrôleur (de type Nvidia Jetson Nano) est accolé à chaque caméra pour exécuter les modèles de vision par ordinateur générant les indicateurs souhaités. "Cette architecture a permis de proposer une solution intégrée de bout en bout sans obliger notre client à recourir à ses systèmes informatiques", se félicite Arthur Veisseire. Et si les modèles ont besoin d'être ré-entraînés, ils pourront toujours être mis à jour à distance.
Le secteur du transport de marchandises s'inscrit dans la même logique. Dans ce domaine, Sas a par exemple mis en œuvre un système de maintenance prédictive pour le constructeur Volvo Trucks. Les données issues des capteurs équipant les camions de la marque sont traitées sur des passerelles IoT dotées de modèles de maintenance prédictive. En tenant compte du contrat de maintenance signé par le client final, "le camion génère lui-même son ordre de réparation si un risque de panne est détecté", résume Mouloud Dey de Sas France.
"Seuls les paramètres de l'IA seront fédérés sur un cluster centralisé, et pas les données d'apprentissage"
Chez Tibco, on détaille un projet mené dans le transport maritime, articulé autour de containers intelligents. "Il s'agissait de s'assurer de la sécurité des marchandises. Or en haute mer, on ne capte pas les réseaux mobiles et les communications par satellite restent onéreuses", rappelle Florent Cenedese. Une IA pré-entrainée est donc embarquée sur les cargos en parallèle. Respect de la chaîne du froid pour les containers réfrigérés, détection des ouvertures de portes pour protéger les produits... Elle permet aux membres d'équipage d'intervenir immédiatement si nécessaire.
Reste à savoir quand et comment réentraîner un modèle de ML propulsé en frontière de réseau. "En matière de reconnaissance vocale ou d'images, l'IA peut se baser sur un taux de confiance défini au départ. Si cette marge de fiabilité n'est pas atteinte, la séquence vocale ou l'image posant problème sera alors renvoyée à la plateforme d'entraînement, sur un cloud par exemple, pour la confronter à nouveau à la base d'apprentissage", indique Dimitri Carbonnelle, fondateur de Livosphere, une agence de conseil en IA et objets connectés. De même, le transfer learning peut dans ce contexte se révéler adapté. En partant de cette technique, un parc de caméras intelligentes par exemple pourra être équipé d'un modèle standard de vision par ordinateur, puis chaque caméra pourra ensuite personnaliser ce dernier en fonction de ses propres cas d'usage en ajoutant de nouvelles couches au réseau de neurones de départ. Un bon moyen de personnaliser l'expérience utilisateur. Parmi les briques d'IA adaptées à cette configuration figure les modèles de réseau convolutif MobileNet dessinés pour la classement d'images.
Le federated learning
Autre méthode évoquée par le consultant : le federated learning, ou apprentissage collaboratif. Elle consiste à entraîner ou réentrainer l'algorithme de machine learning directement sur les objets connectés. "Seuls les paramètres du modèle seront fédérés sur un cluster centralisé, et pas les données (textes, son, photo...) utilisées dans le processus d'apprentissage", explique Dimitri Carbonnelle. Résultat, chaque appareil pourra bénéficier en retour des connaissances accumulées par ses camarades. Sans compter que les informations glanées par les capteurs et exploitées dans leur processus de learning demeureront localisées, ce qui peut présenter un avantage en matière de souveraineté des données.
Au-delà de la localisation des informations issues des infrastructures IoT, se pose également la question de leur sécurisation, notamment quand il s'agit de contenus à caractère personnel. "Dans le cadre d'un chantier mené pour le compte d'un aéroport, des caméras de reconnaissance visuelle ont été mises en place pour analyser les déplacements. Tous les flux transmis ont été anonymisés. Seuls les volumes de passagers et de bagages transitant par telle ou telle zone sont pris en compte", pointe Arthur Veisseire chez Capgemini pour illustrer le propos. Si un comportement suspect est détecté, par exemple une personne restant anormalement longtemps au même endroit, alors son profil et ses caractéristiques sont communiqués sous forme de vecteur, et pas son image en tant que telle. Dans le cas de caméras utilisées pour repérer des personnes recherchées via la reconnaissance faciale, "on pourra ne transmettre au système de surveillance centralisé qu'un identifiant, une suite de chiffres par exemple, qui permettra de faire la correspondance avec ces individus ciblés", complète Dimitri Carbonnelle. A l'instar du federated learning, cette technique aura pour effet bénéfique de réduire le transit réseau. Une problématique qui se révèle clé à l'heure où la multiplication des objets connectés risque d'embouteiller les autoroutes de l'information.