Ces opportunités qu'offrent les Large Language Models aux entreprises

ChatGPT, Bing, Bard… les LLM (en français les grands modèles de langage) frappent les imaginations. Ils peuvent, en tout cas, jouer un rôle essentiel dans les entreprises. Décryptage.

Jusqu’ici relativement obscures, les plateformes d’IA générative comme ChatGPT, Bing, Bard ont envahi le domaine public au cours des derniers mois. Chacune est un produit spécifique développé par des entreprises différentes, mais elles sont toutes construites sur la même classe de technologies, appelées Large Language Models (LLM).

Qu'est-ce qu'un LLM ? Et pourquoi est-il « grand » (large) ? Un LLM est une architecture de modèle de réseau neuronal, basée sur un composant spécifique appelé « transformateur ». Le transformateur donne au LLM la capacité d'identifier la relation entre les mots dans leur contexte et de produire des réponses uniques aux questions, plutôt que de « chercher » des réponses existantes. Un grand nombre de « neurones » composent ce réseau et les connexions entre ceux-ci sont appelées « paramètres », ils définissent la force du signal entre les « neurones ».

Pour mettre en perspective la taille des LLM, l'un des modèles qui sous-tend ChatGPT, compte, par exemple, 175 milliards de paramètres. Ces modèles peuvent être incroyablement grands et donc offrir des capacités de performance impressionnantes pour l'entreprise. Ils peuvent également se révéler très complexes et très coûteux, c’est le revers de la médaille.

Il est donc essentiel de tenir compte de la taille et de la capacité d'un LLM afin de décider de la meilleure façon de l'utiliser. Quelles sont donc les options possibles ?

Utilisation des LLM dans l'entreprise

Il existe deux façons d'utiliser un LLM dans l'entreprise au-delà de la simple interface web.

1 - Vous pouvez faire un appel d’API à un LLM fourni en tant que service

Ces services sont généralement proposés par des entreprises comme OpenAI, Amazon Web Services ou Microsoft Azure, qui fournissent des API publiques que vous pouvez connecter à votre logiciel. Cette méthode présente plusieurs avantages :

- Une utilisation simple : un appel d’API est une tâche simple qu'un développeur débutant peut effectuer en quelques minutes ;

- Une plus grande sophistication : vous pouvez exploiter certains des modèles disponibles parmi les plus importants et les plus sophistiqués, ce qui permet d'obtenir des réponses plus précises sur un large éventail de sujets ;

- La rapidité : ces modèles fournissent généralement des réponses rapides offrant la possibilité de les utiliser en temps réel.

Bien que pratiques et puissants, ces modèles ne sont pas adaptés à certaines applications d’entreprise. Selon les conditions d’utilisation du service, l’API est destinée à des usagers extérieurs à l’organisation qui est à l’origine du logiciel afin de permettre au modèle d’être entrainé, donc enrichi.  Les entreprises doivent donc vérifier si l'architecture du modèle respecte leurs obligations en matière de recueil des données et de protection de la vie privée.

 En outre, les coûts peuvent être élevés, car la plupart des API publiques ont une structure tarifaire qui dépend du nombre de requêtes et de la longueur du texte traité. Il est généralement possible d'obtenir une estimation des coûts et d'utiliser des modèles plus petits/plus économiques adaptés à des tâches plus restreintes. Enfin, bien que cela soit rare, le fournisseur d'une API peut décider d'interrompre le service à tout moment ; il est risqué de dépendre d'un  pipeline dont vous ne contrôlez pas le flux .

2 - Vous pouvez télécharger et exécuter un modèle open source dans un environnement que vous gérez vous-même

Compte tenu des limites de l'exploitation d'un modèle public via une API, les entreprises peuvent avoir intérêt à créer et à exploiter elles-mêmes un modèle open source.

Il existe toute une gamme de modèles open source, chacun caractérisé par leurs forces et leurs faiblesses, et donc plus ou moins adaptés aux besoins de l'entreprise. Un modèle plus petit – même si son application est limitée – peut souvent fournir les performances souhaitées pour une utilisation spécifique et à un coût bien inférieur à celui d’un grand modèle. En exploitant et en gérant elles-mêmes la maintenance des modèles open source, les entreprises ne sont pas dépendantes d'un service d'API tiers.

Cette approche n'est cependant pas forcément optimale pour toutes les structures/entreprises. Le processus peut s’avérer complexe, car la mise en place et la maintenance de votre propre LLM nécessitent un niveau d'expertise en science des données et en ingénierie élevé. Les entreprises doivent s'auto-évaluer objectivement, afin de déterminer si elles disposent de l'expertise et du temps nécessaires pour construire et gérer la maintenance d’un tel modèle à long terme.

Ensuite se pose la question de la limitation des performances. Les modèles open source communautaires sont plus petits et plus ciblés dans leur application, alors que les énormes modèles proposés via les API publiques peuvent couvrir une ampleur et une variété de sujets sans équivalent.

Choisir une approche

Si l'on tient compte des limites de chaque approche, on peut se demander si l'une l'emporte sur l'autre. En fait, il n'existe pas d'approche unique qui puisse fonctionner à l'échelle de l'entreprise : le choix du modèle et de l'architecture doit se faire au cas par cas.

Les deux options vous permettent de décider entre des modèles plus petits ou plus grands, avec des compromis en termes d'étendue des applications potentielles, de sophistication du langage généré, de coût et de complexité quant à l’utilisation du modèle. Pour de nombreuses entreprises, l'une ou l'autre méthode peut convenir pour différents cas d'utilisation et à différents moments, en fonction de la fluctuation des budgets, des capacités et des ressources.

Les entreprises qui auront le plus de succès dans l’utilisation des LLM sont celles qui adopteront une approche souple leur permettant d'opter pour le bon modèle correspondant à une application donnée. L'innovation via les LLM progresse rapidement. Les entreprises flexibles et en capacité de s'adapter à ces changements en tireront les plus grands bénéfices.