Pourquoi les entreprises privilégient de plus en plus les petits modèles d'IA ?

Les LLM ont suscité beaucoup d'attentes initialement, mais aussi des déceptions par la suite. Progressivement, ce sont les SLM (Small Langage Models) qui intéressent les utilisateurs.

Savoir quel type de modèle de langage, qu’il s’agisse des LLM (grands modèles de langage) généralistes ou des SLM (petits modèles de langage) plus spécialisés, correspond le plus à ses besoins devrait être la première étape du déploiement de l’IA. Ce n’est qu’en comprenant bien la différence entre ces deux types de modèles que les entreprises maximiseront leurs chances de réussite de leurs projets d’IA.

Conçus pour être utilisés de façon universelle, les LLM s’appuient sur de vastes bases de connaissances, qui ne leur permettent pas d’être précis dans les domaines qu’ils couvrent. Ils sont enclins à avoir des hallucinations qui peuvent être difficiles à identifier et à éviter. En tant que versions plus spécialisées et condensées, les SLM sont rapidement adaptables et déployables, et ce de façon plus efficace. Leur entraînement s’effectue sur des ensembles plus spécialisés et restreints de données, taillés sur mesure selon chaque secteur et sujet spécialisé. Pour un acteur de santé, on prend par exemple un outil d’IA entraîné à l’aide de données médicales, sans avoir recours à toutes les données d’ordre généralistes qui ne seront ici d’aucune utilité pour la mission très spécifique de l’outil.

En quoi les SLM sont plus avantageux que les grands modèles ? Cela se joue tout d’abord au niveau du dynamisme de leur adaptabilité et leur capacité à intégrer de nouvelles données en continu. De plus, ils requièrent des temps moins longs d’entraînement.

Ils sont également plus rentables, leurs paramètres ne nécessitant pas d’investissements considérables, et peuvent traiter un grand nombre de données sans nécessiter beaucoup de ressources. Ainsi, le "petit" de SLM signifie plutôt "rapide, interchangeable, adapté aux besoins" que "limité".

La dépendance des entreprises aux grands fournisseurs de LLM s’atténue avec le recours aux petits modèles, cela permet de ne pas subir l’opacité des algorithmes, des modèles et des données d’entraînement. Les SLM sont donc un facteur d’amélioration de la souveraineté numérique, et les entreprises conservent la possession de leurs stacks et de leurs propres données.

Résultats améliorés et ajout de fonctionnalités supplémentaires

Les IA de plus petite taille devraient connaître une adoption progressive pour les tâches spécifiques, grâce à leurs avantages. Elles sont même déjà utilisées par les principaux fournisseurs de LLM. Il est possible de compléter les données d’un LLM grâce à la technologie de Retrieval-Augmented Generation (RAG) avec des sources de connaissances externes (répertoires de données, collections de textes, documentation existante…) qui sont segmentées et indexées au sein d’une base de données vectorielle, pour servir à donner des réponses plus précises. On réduit ainsi la possibilité d’avoir des hallucinations. Afin d’échanger des données entre LLM et d’autres outils, et entre les sources de données et les systèmes externes, on utilise la norme ouverte Model Context Protocol (MCP), de plus en plus plébiscité grâce à sa facilité d’utilisation et ses avantages liés à l’utilisation de l’IA. Qu’il s’agisse de compléter les réponses des LLM avec la technologie RAG, ou de mener à bien des actions directes avec l’approche MCP, les agents d’IA gagnent à pouvoir se coordonner avec des API, des outils et des bases de données pour mettre à jour leurs enregistrements de données.

Pour une IA de confiance, l’open source est le choix à privilégier

Les utilisateurs, surtout à l’heure où les préoccupations autour de la souveraineté numérique se font plus fortes, ont plus de questions liées à la sécurité et à l’indépendance quand ils utilisent un modèle d’IA. Pour y répondre, des solutions existent, à commencer par la famille de modèles open source et sous licence Granite. Ce LLM, développé par IBM pour les applications d’entreprise, couvre une vaste gamme de cas d’usage d’IA, y compris la génération de code, le traitement du langage naturel et l’extraction d’enseignements à partir de vastes ensembles de données. Il est possible d’affiner le modèle et de personnaliser la base de connaissances élémentaires pour réaliser des tâches spécifiques dans presque tous les secteurs d’activité. Les utilisateurs d’IA Granite peuvent consulter leurs données d’entraînement, renforçant ainsi la transparence.

vLLM et llm-d, les pierres angulaires des applications d’IA modernes

Le secteur de l’IA se caractérise actuellement par son dynamisme, avec l’émergence quotidienne de nombreuses offres et fonctionnalités. Deux développements récents mis au point par la communauté open source se révèlent aujourd’hui particulièrement utiles : les vLLM et les llm-d.

vLLM est une bibliothèque de code open source gérée par la communauté vLLM. Ce modèle permet aux LLM de gagner en efficacité de calcul. Plus spécifiquement, vLLM est un serveur d’inférence qui accélère la production d’outputs par les applications d’IA générative en optimisant l’utilisation de la mémoire GPU. Ainsi, le serveur d’inférence aide à surmonter un défi majeur. Les modèles d’IA génératives sont de plus en plus complexes et de plus en plus utilisés, ce qui fait du processus d’inférence l’un des principaux goulots d’étranglement. Il nécessite des ressources matérielles considérables, allonge les temps de réponse et contribue à l’augmentation des coûts. Des serveurs d’inférence robustes permettent une exploitation bien plus efficace du matériel nécessaire aux charges de travail d’IA.

Tandis que vLLM offre une prise en charge exhaustive des modèles pour une vaste gamme de plateformes matérielles, llm-d va plus loin. En s’appuyant sur des infrastructures informatiques d’entreprises existantes, llm-d s’accompagne de capacités d’inférence distribuées et avancées qui permettent d’économiser des ressources tout en améliorant la performance. Ces capacités incluent des gains de temps significatifs pour générer le premier token et une hausse du débit tout en respectant les contraintes de latence. llm-d représente une suite d’innovations puissantes. La désagrégation et la couche de planification intelligente sont deux exemples phares d’innovations permettant d’améliorer le processus d’inférence. La désagrégation favorise une utilisation plus efficace des accélérateurs matériels au cours du processus. Elle sépare le traitement des prompts de la génération de tokens et les répartit en charges de travail individuelles, nommées pods. Cette division permet une mise à l’échelle et une optimisation indépendante au cours des différentes phases, qui possèdent chacune des besoins spécifiques en termes de puissance de calcul. La couche de planification intelligente est une extension de l’API Kubernetes Gateway et permet de prendre des décisions d’acheminement plus différenciées pour les requêtes entrantes. Les données en temps réel, comme le cache ou l’utilisation des pods, servent à acheminer les requêtes vers l’instance la mieux indiquée, optimisant ainsi la répartition de la charge de travail au sein du cluster.

Le cloud hybride, socle infrastructurel

Quelle que soit la façon dont l’IA évoluera, il est essentiel de disposer d’une architecture et d’une infrastructure adaptées. Afin d’éviter la dépendance aux fournisseurs et d’intégrer de nouveaux cas d’usage à l’aide d’innovations d’IA, il est recommandé de se doter d’une plateforme flexible, hybride et open source. Ce type de plateforme dote les entreprises de la flexibilité nécessaire pour entraîner et affiner, ainsi que pour déployer et monitorer des modèles d’IA dans le cloud, en périphérie des réseaux et sur site. À titre d’exemple, le processus d’entraînement peut avoir lieu sur des fermes de GPU hébergées dans le cloud, dotées d’une séparation stricte entre les environnements clients. Le modèle peut ensuite être déployé sur site pour un usage en production. Cela permet de réconcilier la sécurité et la souveraineté des données en évitant les coûts de puissance de calculs considérables liés aux modèles d’IA avancés.

Les solutions cloud hybrides sont les plus indiquées, car elles éradiquent les barrières de l’IA qui découlent de l’isolement des infrastructures. À terme, les entreprises devraient être en mesure de faire appel à n’importe quel modèle sur n’importe quel accélérateur, dans n’importe quel cloud, tout en bénéficiant d’une expérience utilisateur cohérente et sans être confrontées à des coûts exorbitants. De telles solutions existent déjà. Plus important encore, une approche de l’IA en essaim, qui se fonde sur le recours à de nombreux modèles de petite taille pour des tâches spécifiques en se substituant aux LLM, peut ouvrir la voie vers un avenir prometteur pour l’IA. Ainsi, la technologie pourrait devenir un outil concret sur lequel les entreprises peuvent s’appuyer en toute indépendance, afin d’offrir un soutien direct à leurs collaborateurs au quotidien.