L'IA n'a pas besoin d'être une AGI pour avoir du pouvoir

Pendant des décennies, nous avons cherché à savoir jusqu'où une machine pouvait devenir intelligente.

Pendant des décennies, nous avons cherché à savoir jusqu’où une machine pouvait devenir intelligente. L’arrivée des agents IA pose une question peut-être plus urgente : jusqu’où sommes-nous prêts à les autoriser à agir à notre place ? Car une intelligence artificielle n’a pas besoin d’être consciente, ni même générale, pour disposer d’un pouvoir considérable. Il suffit que nous lui donnions les permissions nécessaires.

En 1950, Alan Turing proposait de contourner une question presque impossible à trancher : "une machine peut-elle penser ?". Plutôt que de chercher une définition définitive de la pensée, il suggérait d’observer le comportement de la machine.

Quelques années auparavant, Isaac Asimov avait pris le problème par un autre bout. Ses robots obéissaient à des lois apparemment simples. Mais ses nouvelles montraient précisément pourquoi une règle simple cesse de l’être dès qu’elle rencontre l’ambiguïté du monde réel.

L’un posait la question du comportement. L’autre celle des limites.

Soixante-dix ans plus tard, nous sommes peut-être en train d’en ajouter une troisième :

que se passe-t-il lorsque nous donnons à une machine non seulement la capacité de répondre, mais aussi celle d’agir ?

Cette question pourrait-elle finalement devenir beaucoup plus importante pour les entreprises que le débat sans fin sur l’arrivée éventuelle d’une intelligence artificielle générale (AGI) ?

Nous sommes fascinés par l’AGI, peut-être un peu trop

Une part importante du débat sur l’intelligence artificielle reste organisée autour d’un horizon : l’AGI, ou intelligence artificielle générale.

Quand arrivera-t-elle ? Comment la reconnaître ? Sera-t-elle aussi intelligente qu’un humain ? Plus intelligente ? Capable de raisonner dans tous les domaines ? De découvrir de nouvelles connaissances ? De s’améliorer elle-même ?

Ces questions sont passionnantes.

Mais elles peuvent aussi nous détourner de quelque chose qui se déroule déjà sous nos yeux.
Une entreprise n’a pas besoin d’une intelligence artificielle générale pour être profondément transformée par l’IA.
Elle n’a même pas besoin d'une machine capable de raisonner aussi bien qu'un humain sur tous les sujets.
Elle a besoin d'un système suffisamment compétent pour accomplir certaines tâches, connecté aux bons outils et autorisé à effectuer certaines actions.

C'est une différence fondamentale.

Prenons une IA incapable de faire la cuisine, de conduire une voiture ou de comprendre réellement les subtilités d'une réunion de direction. Supposons cependant qu'elle sache parfaitement analyser des campagnes publicitaires, modifier un budget Google Ads, générer les nouvelles annonces correspondantes et mesurer leur performance.

Cette IA n'est pas générale.

Mais si nous lui confions 500 000 euros de budget média, elle possède incontestablement un pouvoir économique.

Une IA n'a donc pas besoin d'être une AGI pour avoir du pouvoir.

Elle a besoin de capacités, de permissions et d'autonomie.

Et c'est peut-être cette combinaison que nous devrions commencer à mesurer.

Du copilote au mandataire

Nous avons d'abord utilisé les IA génératives comme des assistants.

"Résume-moi ce document."
"Écris-moi ce programme."
"Analyse ce tableau."
"Propose-moi une réponse à ce client."

Dans tous ces cas, la machine produit quelque chose et l'humain reste, au moins théoriquement, celui qui décide de ce qu'il en fait.

Mais ajoutons progressivement quelques permissions.

L'IA ne propose plus seulement la réponse au client : elle l'envoie.

Elle ne recommande plus seulement une modification du programme : elle ouvre la pull request.

Puis elle la fusionne.

Puis elle déclenche le déploiement.

Même modèle. Même entreprise. Pourtant, la nature du système a complètement changé.

La différence ne réside plus principalement dans son intelligence.

Elle réside dans le mandat que nous lui avons confié.

Prenons un service client.

Au premier niveau, l'IA analyse le dossier et suggère une réponse.
Au deuxième, elle répond directement au client.
Au troisième, elle peut appliquer un geste commercial inférieur à 20 euros.
Au quatrième, elle choisit elle-même la compensation qu'elle estime appropriée dans la limite d'un budget mensuel.
Au cinquième, elle analyse l'ensemble des réclamations, identifie leur cause et modifie certaines règles opérationnelles afin d'en réduire le nombre.

Nous sommes passés presque sans nous en apercevoir d'un générateur de texte à un système auquel l'entreprise délègue une petite partie de son pouvoir de décision.

Cinq mots peuvent changer la nature d'un agent

Regardons maintenant un responsable marketing utilisant une IA.

Première instruction :

"Analyse les performances de mes campagnes et fais-moi des recommandations."

Peu de risque.

Puis :

"Prépare les campagnes que tu recommandes."

Puis :

"Crée-les directement dans les plateformes publicitaires."

Puis :

"Réalloue chaque jour le budget vers les campagnes les plus performantes."

Puis :

"Voici mon objectif de coût d'acquisition et mon budget mensuel. Optimise-le."

La dernière formulation ne contient que quelques mots supplémentaires.

Mais elle change presque tout.

L'humain ne donne plus une tâche.

Il donne un objectif.

Et il laisse à la machine le soin de choisir une partie du chemin permettant de l'atteindre.

C'est précisément ce qui rend les agents IA intéressants : ils ne se limitent plus nécessairement à l'exécution d'une instruction atomique. Ils peuvent décomposer un objectif, utiliser plusieurs outils, observer le résultat d'une action puis décider de la suivante.

Et chaque nouvel outil connecté agrandit leur espace d'action.

CRM.
ERP.
Messagerie.
CMS.
Base documentaire.
Plateforme publicitaire.
Outil de développement.
Service de paiement.
Système logistique.

La question "que sait faire l'IA ?" devient progressivement indissociable d'une autre :

"à quoi a-t-elle accès ?"

Le "développeur IA" qui ne se contente plus d'écrire du code

Le développement logiciel donne déjà un aperçu de cette évolution.

Un modèle peut aujourd'hui recevoir une demande fonctionnelle, explorer une base de code, identifier les fichiers concernés, écrire le correctif, exécuter des tests et modifier sa proposition en fonction de leurs résultats.

Ce qui importe ici n'est pas uniquement la qualité du code produit.

C'est la longueur de la chaîne d'actions que nous sommes prêts à laisser la machine accomplir.

Il existe une différence considérable entre :

"écris-moi cette fonction"

et :

"corrige ce bug".

Dans le deuxième cas, le système doit commencer à déterminer lui-même ce qu'il doit inspecter et modifier.

Mais nous pouvons encore aller plus loin :

"corrige ce bug et déploie la correction si tous les tests passent".

À cet instant, nous venons d'introduire une règle de délégation.

Et ce type d'évolution pourrait avoir des conséquences économiques qui dépassent largement la productivité individuelle des développeurs.

Si créer une petite application interne, automatiser un workflow ou développer une fonctionnalité devient beaucoup moins coûteux, le traditionnel arbitrage entre acheter un logiciel et le développer pourrait lui-même se déplacer.

Une partie des logiciels que les entreprises achètent aujourd'hui faute de disposer des moyens de les construire pourraient demain être générés, adaptés et maintenus plus facilement.

Cela ne signifierait évidemment pas la disparition des éditeurs de logiciels.

Mais cela pourrait changer la frontière entre logiciel standard, développement spécifique et automatisation.

Des progrès spectaculaires et une fiabilité toujours imparfaite

Il serait tentant d'en conclure que les agents sont déjà prêts à tout prendre en charge.

Nous en sommes loin.

Le Stanford AI Index 2026 donne une mesure intéressante du paradoxe actuel. Sur OSWorld, un benchmark qui évalue la capacité d'agents à accomplir des tâches informatiques dans de vrais environnements logiciels, les performances des meilleurs systèmes ont progressé d'environ 12 % à 66,3 % en un an.

La progression est spectaculaire.

Mais sa lecture inverse l'est tout autant : sur ce benchmark structuré, même les meilleurs agents échouent encore environ une fois sur trois.

La question devient alors moins confortable.

Accepterions-nous de donner des droits administrateur, la possibilité de publier au nom d'une entreprise ou celle de dépenser de l'argent à quelqu'un dont nous savons qu'il peut se tromper régulièrement ?

La comparaison avec un collaborateur humain a évidemment ses limites.

Mais elle met en évidence le paradoxe auquel nous allons être confrontés : des systèmes suffisamment performants pour devenir extrêmement utiles, sans être suffisamment fiables pour que nous puissions cesser de les surveiller.

Les travaux de METR apportent une autre manière intéressante d'observer cette progression avec la notion de "time horizon" : la durée qu'une tâche demanderait à un expert humain, à partir de laquelle un agent possède une certaine probabilité de la réussir.

Les auteurs insistent toutefois sur une limite essentielle. Leurs évaluations portent notamment sur des tâches de développement, de machine learning et de cybersécurité relativement bien définies, avec des critères de réussite observables. Le vrai travail d'une entreprise est souvent plus ambigu, contextuel et difficile à évaluer.

Voilà probablement l'un des grands sujets des prochaines années.

Nous savons relativement bien mesurer si une IA réussit un exercice.

Nous savons beaucoup moins bien décider quand sa probabilité de réussite devient suffisante pour lui confier une responsabilité réelle.

Il nous faut peut-être un "test de délégation"

Le test de Turing appartenait à son époque.

Nous aurions peut-être besoin d'un autre cadre pour la nôtre.

Pas un nouveau benchmark scientifique prétendant mesurer l'intelligence d'une machine.

Plutôt une grille très simple permettant d'évaluer ce que nous sommes réellement en train de lui confier.

Appelons-la, provisoirement, un "test de délégation".

Pour chaque agent, une entreprise devrait pouvoir répondre à quelques questions.

Que peut-il voir ?
Quelles données peut-il consulter ? Des informations publiques ? Les dossiers clients ? Les salaires ? Les contrats ? Les secrets industriels ?
Que peut-il produire ?
Un brouillon ? Une analyse ? Du code ? Une décision ? Un document juridiquement engageant ?
Que peut-il modifier ?
Une copie de travail ? Une fiche produit ? Le CRM ? Une base de données de production ?
Que peut-il publier ?
Un message interne ? Un email client ? Une page Web ? Une communication publique au nom de l'entreprise ?
Que peut-il dépenser ?
Rien ? 20 euros ? 10 000 euros ? Un budget média mensuel entier ?
Que peut-il décider sans demander l'autorisation ?

Et surtout :

que se passe-t-il lorsqu'il se trompe ?
Peut-on annuler l'action ?
Reconstituer son raisonnement opérationnel ?
Identifier les informations utilisées ?
Savoir quel outil a effectué quelle action ?
L'interrompre immédiatement ?

Ces questions paraissent beaucoup moins futuristes lorsqu'on remplace "superintelligence" par "agent connecté au système d'information".

Nous appliquons déjà ce principe aux humains

Il existe d'ailleurs quelque chose d'étrange dans notre fascination pour l'autonomie totale des agents.

Aucun salarié ne dispose d'une autonomie totale.

Le commercial peut négocier, mais généralement dans certaines limites.
L'acheteur peut engager l'entreprise jusqu'à un certain montant.
Le comptable peut préparer une opération sans nécessairement pouvoir la valider seul.
Le développeur peut produire du code sans toujours avoir le droit de le déployer en production.
Le responsable marketing dispose d'une enveloppe budgétaire.
Le stagiaire n'accède pas aux mêmes données que le directeur financier.

Nous appelons cela des rôles, des permissions, des délégations, des procédures de validation, des signatures ou des séparations de responsabilités.

Pourquoi les agents IA échapperaient-ils à cette logique ?

La sécurité des agents pourrait finalement ressembler beaucoup moins aux trois lois universelles imaginées par Asimov qu'au fonctionnement administratif d'une entreprise bien organisée.

Pas trois règles absolues.

Mais des dizaines de droits limités, de seuils, de contrôles et de contre-pouvoirs.

L'entreprise pourrait devoir apprendre à manager ses acteurs logiciels

Ce sujet dépasse largement la cybersécurité.

Il touche à la forme même de l'organisation.

Une étude publiée par McKinsey en octobre 2026 illustre bien le décalage actuel : 80 % des répondants disent constater une amélioration de leur productivité individuelle grâce à l'IA, mais seulement 37 % déclarent un impact positif sur l'EBIT. À peine 6 % sont classés parmi les entreprises les plus performantes dans l'exploitation de l'IA.

Autrement dit, mettre un assistant IA entre les mains de chaque collaborateur ne suffit pas nécessairement à transformer l'économie de l'entreprise.

La prochaine étape pourrait être organisationnelle.

Aujourd'hui, une entreprise distribue le travail entre personnes, équipes et logiciels.

Demain, elle devra peut-être le répartir entre personnes, logiciels traditionnels et agents capables de poursuivre des objectifs.

Ce changement pourrait sembler sémantique.

Il ne l'est pas.

Un logiciel classique attend généralement qu'un utilisateur lui dise précisément quoi faire.

Un agent peut recevoir un objectif et déterminer une partie des actions intermédiaires.

L'organisation devra donc apprendre à gérer non seulement des outils, mais des systèmes disposant d'une marge de manœuvre.

Quels agents peuvent créer d'autres agents ?
Qui leur attribue leurs permissions ?
Comment suit-on leurs actions ?
Quel budget peuvent-ils consommer ?
Comment mesure-t-on leur performance ?
À quel moment doivent-ils transmettre le dossier à un humain ?
Qui est responsable lorsqu'une action techniquement correcte produit une mauvaise conséquence commerciale ?

Nous sommes peut-être au début d'une nouvelle discipline qui ne sera ni tout à fait du management, ni tout à fait de l'informatique.

Et si les prochains utilisateurs de nos sites n'étaient pas humains ?

La question devient encore plus intéressante lorsqu'on quitte l'entreprise.

Depuis trente ans, date de création de notre agence digitale, nous concevons le Web pour des utilisateurs humains.

Nous travaillons l'ergonomie d'un formulaire, la navigation, le moteur de recherche interne, le tunnel de conversion, la hiérarchie visuelle d'une page.

Mais imaginons un consommateur demandant demain :

"Trouve-moi un hôtel à Nantes pour deux nuits, à moins de dix minutes de la gare, avec parking, petit-déjeuner et possibilité d'annuler jusqu'à la veille. Ne dépasse pas 300 euros et réserve le meilleur rapport qualité-prix."

Son agent pourrait interroger plusieurs services, comparer les disponibilités, analyser les conditions, sélectionner l'offre et éventuellement effectuer la réservation.

L'utilisateur du système hôtelier n'est alors plus nécessairement l'humain.

C'est son agent.

Le même scénario peut être imaginé pour un achat professionnel, un billet de train, un fournisseur, un logiciel SaaS ou une assurance.

Cela pourrait progressivement modifier certains fondamentaux du numérique.

Un site Web devra-t-il toujours être pensé uniquement pour être parcouru ?

Ou également pour être interprété et actionné par des machines ?

Les données structurées, les API, l'identité numérique, l'authentification, la réputation d'une source ou les conditions d'une transaction pourraient devenir aussi importantes que certains éléments d'interface.

Après avoir passé vingt ans à optimiser l'expérience utilisateur, nous devrons peut-être également penser à l'expérience agent.

L'IA Act montre déjà que le droit entre dans cette nouvelle phase

Le cadre réglementaire évolue lui aussi.

Depuis le 2 août 2026, certaines obligations de transparence prévues par l'article 50 de l'AI Act sont applicables dans l'Union européenne. Elles concernent notamment l'information de certaines personnes lorsqu'elles interagissent avec un système d'IA ainsi que le marquage ou le signalement de certains contenus générés ou manipulés.

Le droit commence donc à répondre à une question essentielle : que devons-nous savoir lorsqu'une IA intervient ?

Mais la multiplication des systèmes agentiques en fera émerger une autre :

que devons-nous autoriser une IA à faire ?

Et ce deuxième sujet pourrait être encore plus complexe.

Car la bonne réponse dépendra du secteur, de l'action, du montant engagé, de sa réversibilité et du risque qu'elle fait courir.

Il n'existera probablement jamais un niveau universel d'autonomie acceptable.

Une erreur à un million d'exemplaires

Nous avons tendance à imaginer le risque de l'intelligence artificielle sous la forme d'une machine extraordinairement puissante qui prendrait une très mauvaise décision.

Le scénario le plus banal pourrait être différent.

Une machine moyennement intelligente pourrait prendre une petite décision imparfaite.

Puis la répéter dix millions de fois.

C'est là que l'échelle devient une propriété du problème.

Un humain ne peut envoyer que quelques centaines de messages personnalisés dans une journée.

Un système automatisé peut en produire des millions.

Un acheteur humain ne peut négocier simultanément avec des milliers de fournisseurs.

Un agent logiciel le pourrait théoriquement.

Une mauvaise décision humaine est souvent limitée par notre propre capacité d'action.

Une mauvaise décision automatisée peut être limitée uniquement par l'infrastructure que nous avons mise à sa disposition.

Le pouvoir de l'IA ne proviendra donc pas nécessairement uniquement de la profondeur de son intelligence.

Il pourra venir du produit de trois facteurs : capacité × autonomie × échelle.

L'AGI pourrait finalement ne pas être le seuil le plus important

Nous continuerons certainement à discuter de l'arrivée de l'AGI.

Et il est possible que ces débats deviennent encore plus intenses à mesure que les modèles progresseront.

Mais les entreprises ne peuvent pas attendre qu'une définition universelle de l'intelligence générale soit établie pour réfléchir à ce qu'elles délèguent.

Un système n'a pas besoin d'avoir une conscience.
Il n'a pas besoin de comprendre le monde comme nous.
Il n'a même pas besoin d'être meilleur qu'un humain dans toutes les tâches.

Il suffit parfois qu'il soit assez bon, extraordinairement rapide, disponible en permanence, duplicable presque instantanément et autorisé à agir dans un environnement numérique.

C'est déjà beaucoup.

Pendant des décennies, nous avons cherché à savoir si les machines pourraient devenir suffisamment intelligentes pour nous ressembler.

La prochaine question sera peut-être moins spectaculaire, mais beaucoup plus concrète :

combien de pouvoir sommes-nous prêts à confier à une intelligence qui reste imparfaite ?

Ce ne sera probablement pas un test de Turing qui nous donnera la réponse.

Ce seront les permissions que nous lui accorderons. Et vous, qu'en pensez-vous ?