L'IA en coulisses, l'humain aux commandes : plaidoyer pour une autre transformation technologique

À l'heure où l'IA générative et les agents promettent de transformer tous les métiers, cette tribune de Kiloutou défend une conviction à contre-courant : la technologie ne doit pas remplacer l'humain.

Il y a quelques années, au cœur de la première grande vague de l’analyse de données et du prédictif, la tentation était déjà grande de céder à la surenchère et de voir dans chaque algorithme une révolution absolue. Aujourd’hui, avec l’avènement de l’IA générative et de l'ère agentique, un changement d’échelle s’opère. Attirées par des promesses d'automatisation totale, de nombreuses directions se lancent dans une numérisation à outrance, convaincues que l'algorithme peut lisser toutes les aspérités du quotidien.

Pourtant, la réalité du quotidien nous renvoie à une vérité : la confiance, la sécurité ou encore la réactivité opérationnelle ne s'automatisent pas. Vouloir substituer un collaborateur qui agit sur le terrain par la machine est un contresens économique et social. Le sujet n’étant pas de refuser l’intelligence artificielle, mais de lui assigner la bonne place.

Pour devenir un véritable levier de performance, l'intelligence artificielle doit être exploitée là où elle excelle : en coulisses, pour agir telle une infrastructure invisible au service de l'humain.

L’illusion du process parfait

Il existe aujourd'hui un fossé entre les théories imaginées par les services supports et la réalité du terrain. Des études récentes ont démontré que près de 70 % des initiatives de transformation numérique n'atteignent pas leurs objectifs. Plus parlant encore, une étude universitaire relayée par la London School of Economics (LSE) révèle que 95 % des pilotes d'IA générative ne parviennent pas à délivrer d'impact commercial mesurable.

Pourquoi un tel taux d'échec ? Parce que ces systèmes sont trop souvent pensés sous l'angle normatif et non sous celui de la flexibilité opérationnelle. On demande aux équipes de s’adapter à l’outil, alors que l’outil devrait d’abord s’adapter à leur réalité. Une étude de terrain menée sur un grand chantier de construction illustre parfaitement ce point de rupture. En imposant aux équipiers de mesurer manuellement chaque verticalité de mur ou dimension de fenêtre pour alimenter une plateforme digitale, l’entreprise a généré une telle fatigue physique que les ouvriers ont fini par rejeter l’outil. Pour continuer à livrer leur chantier à temps, ils ont mis en place d’autres process et des stratégies de contournement afin de simuler la conformité tout en revenant à leurs anciennes méthodes de travail.

Face à des systèmes déconnectés de leur quotidien, les opérationnels sont obligés de s'adapter pour survivre, et très souvent ils sont amenés à utiliser des canaux non approuvés et des outils IA non sécurisés pour pouvoir répondre à leurs clients. C’est l'émergence de la Shadow AI.

Le choix d’une technologie réellement utile a donc un coût : il faut renoncer à certains effets d’annonce, investir dans la formation, accepter des phases de test plus longues et donner aux équipes le droit de dire qu’un outil ne fonctionne pas. Mais ce coût est inférieur à celui d’une transformation rejetée par ceux qui doivent la faire vivre.

Les dommages collatéraux de l'hallucination ne sont que trop peu observés

Déléguer la relation client et le conseil à un algorithme présente des risques que peu de dirigeants mesurent à leur juste valeur. Si l'hallucination d'une IA générative sur un site e-commerce de prêt à porter par exemple ne pourrait prêter qu'à une déception mineure, elle devient une menace vitale dans les métiers physiques. 

Des tests de simulation menés sur des intelligences artificielles génératives configurées pour nos métiers illustrent de manière flagrante cette dérive : soumis à des scénarios de conseil, des agents conversationnels standardisés expliquent avec aplomb qu'il est tout à fait recommandé de poncer un carrelage imitation parquet à l'aide d'une ponceuse à bois… Le même robot suggère d'utiliser une pelleteuse thermique sur chenilles à l'intérieur d'une véranda fermée. L'algorithme, enfermé dans sa logique de prédiction de mots, ignore tout des effets du monoxyde de carbone et du risque d'asphyxie mortelle pour l'utilisateur.

Les marques ne peuvent pas déléguer leur responsabilité et leur devoir de conseil à des systèmes probabilistes qui ne comprennent pas la gravité physique des situations qu’ils traitent. Un équipier expérimenté et formé possède, lui, cette conscience du risque.

La véritable valeur ajoutée réside dans la conception de parcours d'aide au choix conçus et validés par des humains. Des parcours construits en étroite collaboration avec des communautés d'ambassadeurs terrain, alimentés par l'expertise de formateurs et testés rigoureusement par des équipes de développeurs et de spécialistes. L’IA peut guider, reformuler, comparer ou alerter. Mais lorsqu’une décision engage la sécurité, la conformité ou la responsabilité de la marque, le dernier mot doit rester humain. C’est cela, incarner une promesse "100% digital, 100% humain" : utiliser la technologie pour guider, tout en garantissant que le dernier rempart reste une expertise humaine vérifiée.

Pour une "IA invisible" et frugale au service des équipes

L'outil doit savoir s'effacer pour devenir une infrastructure silencieuse, au même titre que l'électricité. Dans certains secteurs tels que la logistique, la distribution ou le BTP, la juste place de l'IA est d'absorber la "pollution administrative" et de réduire le “bruit opérationnel” : nettoyer les bases de données, trier les factures, identifier les doublons, rendre la donnée accessible plus rapidement. Mais sa véritable valeur ajoutée réside dans sa capacité à éclairer nos choix sans jamais s'imposer. L'IA doit agir comme un copilote silencieux : analyser des données ciblées (l'état d'usure d'une machine, l'historique d'un client, les contraintes d'un chantier…) pour suggérer des scénarios optimisés.

C’est ici que s’incarne une promesse “Human-First” : l'IA ne décide pas, elle propose une boussole. Le plan d'actions suggéré reste une simple prescription. Le dernier mot, le contrôle de cohérence et la responsabilité finale appartiennent exclusivement à l'expertise des collaborateurs. En libérant l'opérationnel des tâches répétitives et en éclairant ses décisions, nous lui redonnons le temps et la clairvoyance indispensables pour se concentrer sur son cœur de métier.

Une étude de cas illustre parfaitement cette symbiose : dans des ateliers d'artisanat, une IA discrète suggère des micro-ajustements de geste (la tension d'un fil, l'angle d'une aiguille) sans jamais s'imposer. L'algorithme invite, mais c'est l’artisan qui valide. C'est ce modèle de respect de l'expertise terrain que nous devons dupliquer dans l'industrie et les services.

Cette promesse est aussi un chemin vers la sobriété numérique. En refusant la surenchère d'interfaces lourdes, de flux vidéo continus et d'avatars conversationnels énergivores pour se concentrer sur des algorithmes de calcul ciblés et invisibles, nous faisons le choix d'une innovation intrinsèquement plus sobre. Cette "augmentation" doit servir à éliminer la pénibilité administrative et la qualité de service apportée aux clients. Le pionnier de l'IA Andrew Ng résume parfaitement cette ambition : "Tout comme la révolution industrielle a libéré l'humanité d'une grande partie de la corvée physique, je pense que l'IA a le potentiel de libérer l'humanité d'une grande partie de la corvée mentale."

Pour réussir cette transition, nous devons cesser de concevoir la technologie depuis le haut de la pyramide et commencer par les situations concrètes de celles et ceux qui la feront vivre. Gardons l’IA en arrière-boutique lorsque c’est là qu’elle est la plus utile, pour que l’humain reste aux commandes là où se jouent la confiance, la sécurité et la responsabilité.