"Casseur-payeur" : avec l'IA, c'est l'entreprise qui paiera la casse

Quand une IA se trompe face à un client, ce n'est pas l'outil qui paie, c'est l'entreprise qui l'a branché. Le 9 décembre, l'Europe en fait une règle, voici les 3 questions à se poser avant.

Depuis les violences du 17 octobre, une expression revient dans tous les débats, "casseur-payeur". Une proposition de loi a été déposée à l’Assemblée le 13 octobre, et le gouvernement défend son propre texte, que le Sénat doit examiner à partir du 27 octobre. Je ne vais pas prendre parti ici sur ce qui relève du maintien de l’ordre, ce n’est ni mon métier, ni le sujet de cette chronique.

Mais l’expression pose une question que je trouve précieuse pour les dirigeant(e)s, et qu’on se pose rarement à propos de l’IA : quand quelque chose casse, qui paie ? 

Car dans nos entreprises, ceux qui décident de brancher une IA et ceux qui en paient les erreurs sont rarement les mêmes, et pour l’IA, la réponse est déjà beaucoup plus tranchée qu’on ne le croit.

Un chatbot n’est pas un tiers

En février 2024, un tribunal de Colombie-Britannique a rendu une décision que tout(e) dirigeant(e) devrait connaître. Un client d’Air Canada, Jake Moffatt, avait demandé à l’assistant conversationnel de la compagnie comment bénéficier d’un tarif réduit pour se rendre aux obsèques d’un proche. L’assistant lui avait répondu qu’il pourrait demander la réduction après son voyage, ce qui était faux, et la compagnie a ensuite refusé de le rembourser.

Devant le tribunal, Air Canada a soutenu que son chatbot était en quelque sorte une entité distincte, responsable de ses propres réponses. L’argument a été balayé : le chatbot fait partie du site de la compagnie, et la compagnie répond de tout ce qui figure sur son site. Elle a été condamnée à verser environ 812 dollars canadiens.

La somme est modeste, le principe ne l’est pas. Ce jour-là, il a été jugé qu’une entreprise ne peut pas renvoyer son client vers l’outil qui s’est trompé, comme on renverrait un plaignant vers un sous-traitant. Le casseur, c’est l’outil, mais le payeur, c’est celui qui l’a mis devant le client.

La casse ne se voit pas toujours

Encore faut-il voir la casse, car elle n’a pas toujours la forme d’un remboursement refusé.

Il y a la casse visible, celle des réponses fausses, des devis mal calculés ou des mails partis au mauvais destinataire. Et il y a la casse lente, celle des décisions prises au nom de l’IA avant d’en avoir la preuve. Quand Klarna a reconnu en 2025 que son service client automatisé coûtait moins cher mais produisait une qualité inférieure, et qu’il fallait réembaucher des humains, la facture a été payée par les clients mal servis, par les équipes parties entre-temps, puis par l’entreprise elle-même, qui a dû reconstruire ce qu’elle avait défait.

Dans une PME, cette facture-là n’arrive jamais sous la forme d’un jugement. Elle prend la forme d’un client qui ne revient pas, d’une collaboratrice qui corrige en silence les erreurs de l’outil, ou d’un dirigeant qui découvre trop tard qu’on lui a dit oui à sa place.

Le 9 décembre, le logiciel devient un produit comme un autre

Jusqu’ici, on pouvait encore se dire que tout cela relevait du cas par cas. Ce ne sera bientôt plus vrai en Europe.

La nouvelle directive européenne sur la responsabilité du fait des produits défectueux s’appliquera aux produits mis sur le marché ou mis en service après le 9 décembre 2026, et elle range désormais explicitement les logiciels parmi les produits, IA comprise. Les éditeurs peuvent être tenus pour des fabricants, et une entreprise qui modifie substantiellement un produit, ou l’intègre dans ce qu’elle vend, peut se retrouver dans la même position. La France doit encore adapter son code civil, mais la date, elle, est fixée par Bruxelles.

Il ne faut pas en tirer plus que ce qu’il dit : ce texte protège d’abord les victimes de dommages, il ne règle pas tous les différends entre entreprises. Entre vous et l’éditeur de votre IA, c’est votre contrat qui parle, et c’est souvent là que la surprise arrive, car la clause de responsabilité de ces outils tient en quelques lignes, et elle limite généralement ce que l’éditeur s’engage à payer.

Autrement dit, si votre IA casse quelque chose chez un client, il y a de bonnes chances que ce soit vous qui payiez, et que l’éditeur ne vous rembourse qu’une petite partie, voire rien.

3 questions avant de confier un client à une IA

Je ne dis pas qu’il faut renoncer à l’IA, je m’en sers tous les jours. Je dis qu’il faut savoir qui paie avant de la brancher, et non après le premier incident. Voici les 3 questions que je me pose, et que je pose aux dirigeant(e)s que j’accompagne.

1. Si elle se trompe face à un client, qui répare, et comment ?

Une personne nommée, qui peut reprendre la main, corriger la réponse et décider d’un geste commercial sans attendre un comité. Air Canada n’avait prévu personne, et c’est un tribunal qui a décidé à sa place.

2. Qu’est-ce que votre contrat dit que l’éditeur paiera ?

Relisez la clause de responsabilité de vos outils d’IA, ou faites-la relire. Si elle limite la responsabilité de l’éditeur à quelques mois d’abonnement, alors le risque est chez vous, et c’est à vous de le réduire, par vos propres contrôles ou par votre assurance.

3. Pouvez-vous prouver ce qu’elle a dit ou fait ?

Le jour où un client conteste, il faudra montrer la réponse exacte, l’heure et le contexte. Sans journal, vous ne pourrez ni vous défendre, ni reconnaître une erreur en connaissance de cause. C’est la question que je posais ici même il y a une semaine, à propos de l’identité des agents : savoir qui a fait quoi.

Le casseur et le payeur

Au Parlement, le débat porte sur la façon de faire payer ceux qui cassent. Avec l’IA, il est en réalité déjà tranché, et ce n’est pas l’outil qui paie, c’est l’entreprise qui l’a mis entre elle et ses clients.

Cela ne doit pas faire peur, cela doit faire réfléchir : une IA qu’on a le droit de brancher, c’est une IA dont on sait qui répond. Mieux vaut le décider avant le 9 décembre qu’après le premier client mécontent.

Sources

Assemblée nationale, proposition de loi n° 3305 visant à instaurer le principe de "casseur-payeur" lors des manifestations, attroupements et rassemblements violents, déposée le 13 octobre 2026 : https://www.assemblee-nationale.fr/dyn/17/textes/l17b3305_proposition-loi
Parlons-Politique, "Dégradations en manifestation : jusqu'où l'État peut-il faire payer les participants aux rassemblements violents ?", octobre 2026 (projet de loi du gouvernement, examen au Sénat à partir du 27 octobre) : https://www.parlons-politique.fr/actualite-nationale/degradations-en-manifestation-jusquou-letat-peut-il-faire-payer-les-participants-aux-rassemblements-violents_29563/
Civil Resolution Tribunal (Colombie-Britannique), Moffatt v. Air Canada, 2024 BCCRT 149, 14 février 2024, rapporté par CTV News : https://www.ctvnews.ca/vancouver/article/air-canadas-chatbot-gave-a-bc-man-the-wrong-information-now-the-airline-has-to-pay-for-the-mistake/
Directive (UE) 2024/2853 relative à la responsabilité du fait des produits défectueux, application aux produits mis sur le marché après le 9 décembre 2026, logiciels inclus : https://www.stibbe.com/fr/publications-and-insights/nouvelles-regles-de-lue-sur-la-responsabilite-du-fait-des-produits
Assemblée nationale, question écrite n° 11448 et réponse ministérielle sur la transposition (code civil, articles 1245 et suivants) : https://www.assemblee-nationale.fr/dyn/17/questions/QANR5L17QE11448
Entrepreneur, "Klarna Is Hiring Customer Service Agents After AI Couldn't Cut It on Calls", mai 2025 : https://www.entrepreneur.com/business-news/klarna-ceo-reverses-course-by-hiring-more-humans-not-ai/491396
Chronique JDN du 13 octobre 2026 : https://www.journaldunet.com/intelligence-artificielle/1556531-google-donne-une-carte-d-identite-aux-agents-ia-chez-vous-ils-travaillent-encore-avec-le-badge-de-qui/