Comment ServiceNow se lance dans l'IA générative
L'américain ServiceNow est l'un des tous premiers éditeurs à s'être remis profondément en cause suite à l'avènement de ChatGPT. La plateforme d'automatisation des flux de travail originaire de Santa Clara a planché dès le premier trimestre 2023 sur une offre lancée en bêta en juin 2023. Le point sur cette nouvelle stratégie.
ServiceNow articule sa solution de générative AI autour d'un assistant de productivité. Baptisée Now Assist, il vient se greffer à sa plateforme Now. Son rôle ? "L'IA générative est un moyen de gagner en productivité, notamment dans le traitement de l'informations", explique Heath Ramsey, vice-président platform outbound product management chez ServiceNow.
OpenAI en coulisse
Now Assist s'adosse à la brique ServiceNow Generative AI Controller pour intégrer des large language models tels que ceux d'OpenAI ou du cloud Azure de Microsoft. Objectif : disposer d'une IA générative à l'état de l'art. "Generative AI Controller permet d'effectuer des recherches au sein de la documentation d'entreprise. Puis, par le biais du modèle, d'en tirer une réponse ciblée sous la forme d'un résumé en langage naturel qui s'intègre ensuite au flux conversationnel de Now Assist. Au final, ce dispositif complète la force de ServiceNow dans le traitement des données structurées en base", détaille Heath Ramsey.
"Le mariage de la recherche et de l'IA générative permet de bénéficier des réponses instantanées pour résoudre rapidement un problème"
Dans le cas d'une longue procédure décrite dans un fichier par exemple, ServiceNow Generative AI Controller déniche précisément la donnée dont a besoin l'utilisateur. "Nul besoin de réentrainer le modèle avec ses propres données d'apprentissage. Le mariage de la recherche et de l'IA générative permet de bénéficier des réponses instantanément pour résoudre rapidement un problème", complète Heath Ramsey.
Vers des LLM Spécialisés
Parallèlement, ServiceNow a annoncé un partenariat avec NVidia pour bâtir des LLMs spécialisés. En ligne de mire : aboutir à des modèles mieux taillés pour les cas d'usage de la plateforme. L'entreprise californienne entend notamment se positionner dans la génération de code. L'enjeu ? Permettre d'enrichir les fonctionnalités de son environnement dans une logique de no code / low code. Autres projets : des LLMs centrés sur la génération de processus de gestion de service informatique (ITSM) ou encore de gestion des RH. ServiceNow compte évidemment s'adosser aux capacités de calcul graphique de NVidia pour entrainer ses modèles.
Pour l'heure, ServiceNow Generative AI Controller et Now Assist sont en phase de bêta. Les clients de ServiceNow commencent tout juste à les utiliser via le programme "Control go to market" de l'éditeur. "L'intérêt des clients faisant partie de ce programme est significatif. En termes de résultats, des informations qui pouvaient demander des minutes voire des dizaines de minutes pour être retrouvées sont identifiées désormais en quelques secondes. Sachant que cela ne recouvre pas seulement la recherche, mais aussi l'interprétation des informations et le déclenchement des actions qui peuvent en découler", insiste Heath Ramsey. Quant aux données du client, elles restent sécurisées et isolées au sein d'une instance dédiée.