Avec ChatGPT, les chatbots connaissent une nouvelle jeunesse
Les IA génératives comme ChatGPT vont-elles signer une révolution pour les chatbots ? Ces messageries automatisées qui permettent d'échanger avec les marques ont déjà connu un premier apport de l'intelligence artificielle, qui leur a permis de mieux comprendre l'intention de l'utilisateur. Pour Florent Gosselin, CPO d'iAdvize, une solution d'expériences conversationnelles pour les marques, "l'IA générative est un vrai changement de paradigme. Nous allons passer d'interactions très scriptées à des configurations plus simples à déployer qui vont avoir un impact massif sur l'expérience client et un réel bénéfice pour les marques". Chez Dydu, un éditeur de chatbot et voicebot, Mathieu Changeat, le cofondateur confirme : "Il y a de vraies belles choses à faire cette année".
Avant cela, les chatbots ont été source d'expériences décevantes pour les clients. "Ils n'étaient pas vraiment intelligents. Pour les faire fonctionner nous simulions des scénarios. Si le client restait dans le scénario tout allait bien, par contre, en dehors, cela ne fonctionnait pas et le client se retrouvait souvent face au message initial", rappelle Jimmy Barens, vice-président global sales engineering chez Yext, qui propose une solution d'automatisation de la gestion des données. Avec la deuxième vague d'intelligence artificielle, à partir de 2016, les modèles de langages ont donc permis de mieux décrypter l'intention du consommateur, en revanche, "la technologie est restée la même, avec un arbre de décisions et des scénarios établis, simplement l'IA comprend la question en langage naturel", continue Jimmy Barens.
L'apport de l'IA générative
ChatGPT avec ses qualités conversationnelles semble être le candidat tout trouvé pour apporter un bénéfice à l'industrie des chatbots. "Les IA génératives et leurs dérivés conversationnels sont justement optimisés pour faire interagir l'humain avec l'IA", souligne le vice-président avant-vente de Yext. Depuis fin 2022, ChatGPT est devenu un véritable buzzword. Au-delà du coup marketing, pour Cristina Fonseca, vice-president product chez Zendesk, une plateforme spécialiste du service client et CRM, "il faut regarder ce que nous pouvons automatiser ou pas avec les IA génératives pour libérer du temps aux humains sur les décisions qui nécessitent de l'empathie. L'IA est capable de trier les demandes, de comprendre ce que le client veut et son sentiment. Plus le ton est négatif et plus il faudra faire appel à un humain au lieu d'un bot".
"Comprendre et manipuler du texte est le point fort des IA générative donc autant les utiliser pour cela"
Chez Goodays, une plateforme de gestion des interactions client, le CEO Nicolas Hammer ne mise pas sur l'IA générative pour le conversationnel : "Il faut faire gagner du temps aux équipes et les privilégier quand elles peuvent faire la différence. L'IA générative permet chez nous d'éliminer les tableaux de bord, les reportings et de les résumer en un paragraphe synthétique pour gagner du temps. Il ne faut pas à tout prix automatiser les réponses. Les IA génératives nous permettent de démocratiser l'accès aux données que nous avons sur ce que pense le client, notre cœur de métier". L'IA générative est donc vue comme un assistant "donnant accès à un corpus de données synthétique, phrasé et simple à lire. L'IA peut être prédictive aussi en anticipant certaines choses comme le jour où il y a le plus d'attente en caisse par exemple", ajoute Nicolas Hammer. Chez Zendesk, les équipes regardent de plus près ce que les IA font bien : "Comprendre et manipuler du texte est leur point fort donc autant les utiliser pour cela, pour résumer ou peaufiner des réponses par exemple", continue Cristina Fonseca.
Des versions bétâ déjà en tests
Buzzword ou pas, les plateformes spécialisées dans la mise en place de chatbots travaillent déjà sur des solutions intégrant ChatGPT. Chez Yext, la solution de chat associe les qualités conversationnelles de ChatGPT à la solution de search maison : "Notre modèle transforme la question et la soumet à Yext Search. Nous combinons le meilleur de ChatGPT à notre solution, sans le contenu que nous ne contrôlons pas et que nous remplaçons par du contenu de marque", explique dans le détail Jimmy Barens. Yext Chat est en bêta chez sept des clients de la plateforme et Yext entend lancer sa solution début septembre 2023. Chez iAdvize, tout passe aussi par un assemblage entre les algorithmes d'iAdvize, le moteur de détection de l'intention d'un prestataire et l'IA générative d'Open AI. "Notre secret sauce est la manière dont nous allons instruire l'IA sur la base de nos données. Nous adaptons l'IA générative aux processus et aux données spécifiques des marques, nous rendons l'IA extensible en la connectant à leurs écosystèmes et canaux de communication et enfin nous veillons à ce que l'IA soit contrôlable en surveillant son impact sur l'expérience client et les revenus", témoigne Florent Gosselin. Chez Dydu, ChatGPT est utilisé comme un démonstrateur car trop gourmand en énergie contrairement à d'autres modèles de langage. "Nous avançons sur des solutions similaires comme Llama ou Vigogne qui sont des modèles de langages open source. Nous les travaillons avec des données exploitables pour les orienter vers nos besoins", explique Mathieu Changeat.
Des risques à prendre en compte
"Le risque que l'intelligence artificielle invente des réponses est réel. Nous ne pouvons pas déployer un bot qui ne marche pas. Il faut fixer des limites, donner du contexte à l'IA car elle a été entraînée à répondre à l'aide de l'ensemble d'Internet", avertit Cristina Fonseca. "Ces modèles hallucinent, ils peuvent dérailler car ils fonctionnent sur des probabilités et il arrive qu'ils sortent des énormités avec autorité", ajoute Jimmy Barens. Pour limiter ces risques, les spécialistes du chatbot doivent poser des limites claires. "Ces modèles de langage fonctionnent par des probabilités et composent des réponses mot à mot. Les réponses données peuvent paraître très convaincantes mais être fausses. Il faut cadrer les choses, faire en sorte que les réponses soient adaptées au contexte de la marque, à ses données et à ses règles métier. Le cadre doit être maîtrisé par la marque pour éviter que l'IA invente", juge Florent Gosselin d'iAdvize.
"Avec ses serveurs installés aux Etats-Unis, ChatGPT n'est pas compatible avec nos solutions car nos clients sont des grands groupes français"
L'hallucination n'est pas le seul risque inhérent à ces technologies. "Si un outil comme ChatGPT peut être paramétré à une température zéro pour qu'il n'invente rien, l'autre problème est que les serveurs de ChatGPT sont aux Etats-Unis et qu'il n'est pas conforme au RGPD. Pour nous, il n'est pas compatible avec nos solutions car nos clients sont pour beaucoup de grands groupes français. Même si nous cantonnons les données à notre base documentaire elles partent chez Open AI ce qui est un problème", avertit Mathieu Changeat. Le coût est aussi à prendre en compte : "Nous ne pouvons pas utiliser une technologie dont le coût d'une requête est de 10 euros", ajoute Nicolas Hammer.
Ne pas désengager l'humain
Le risque en automatisant totalement les chatbots est de désengager les équipes de la relation client. "Nous pensons qu'il ne faut pas désintermédier le client des équipes. Nous ne devons pas les couper avec le sens de leur métier. Par exemple dans les propositions de réponses, nous pouvons forcer la personnalisation avec 4 ou 5 paramètres à compléter", explique Nicolas Hammer. Pour Jimmy Barens de Yext, il ne faut pas non négliger la recommandation et la personnalisation. "Au-delà des données, la marque doit pouvoir aussi influencer la réponse, par exemple pousser un produit mis en avant plutôt qu'un produit qui n'est pas en stock", complète-t-il.
Intégrer ChatGPT aux chatbots ne se fait pas sans risques et les plateformes avancent avec prudence sur le sujet. "Si nous travaillons dans le software, ne pas intégrer ChatGPT serait une faute. Il y a un gain de productivité, de compréhension évident, mais, il faut le faire à bon escient et de la bonne manière", explique Nicolas Hammer. Mathieu Changeat n'y voit lui pas de véritable révolution : "Ces technologies ne sont pas toutes nouvelles. Mais ChatGPT a remis en lumière les chatbots, cela nous permet de démarrer des projets que nous avions en tête depuis longtemps", conclut-il.