LibreChat ou comment utiliser les meilleurs LLM du marché en ne payant que ce que vous consommez
Enfin une plateforme fonctionnelle pour utiliser les meilleures IA génératives. Jusqu'à l'arrivée de Poe, aucune plateforme unifiée ne permettait d'utiliser les meilleurs LLM du marché au sein d'une même interface. Son seul écueil ? Poe nécessite un abonnement mensuel. Dès lors, impossible d'utiliser un modèle et de payer uniquement pour l'usage réalisé uniquement. LibreChat vient combler cette lacune. Développé par plus d'une centaine de membres de la communauté open source aux côtés de Danny Avila, software ingénieur et à l'initiative du projet, l'outil offre une interface simple et usuelle pour utiliser la plupart des modèles d'IA générative du marché.
Comment fonctionne LibreChat ?
LibreChat se présente sous la forme d'une plateforme web, utilisable en local sur son ordinateur ou depuis un serveur, grâce à une installation relativement simple. LibreChat contient nativement des connecteurs à une multitude de services grâce aux API. LibreChat permet notamment, sans s'y limiter, de se connecter aux modèles d'OpenAI, de Google, d'Anthropic, ou encore de Perplexity.
Très concrètement, LibreChat se présente sous la forme d'une interface web complète très similaire à celle de ChatGPT. Le principe est simple : l'historique des conversations est affiché à gauche, le chat principal au centre et les réglages du modèle à droite. Une sélection (situé en haut à gauche) permet de choisir le fournisseur de modèle et le modèle précis à utiliser. Dans le cas d'OpenAI ce sont par exemple 21 modèles différents qui sont proposés. Le point fort de LibreChat réside dans son ultra-personnalisation. Il est possible de régler très finement les paramètres du modèle à utiliser (temperature, top p, max tokens) et de les sauvegarder ensuite comme preset. Grâce à la possibilité de configurer le prompt system, il est également possible de développer ses propres agents.
LibreChat permet également d'adresser un fichier à l'IA pour interroger son contenu et supporte également le speech-to-text et le text-to-speech. L'interface n'a véritablement rien à envier à celle de ChatGPT. Pour utiliser un modèle, il est nécessaire d'indiquer simplement la clef de l'API préalablement configurée sur le service en question (exemple : chez OpenAI pour utiliser GPT-4o). Le configurateur de clef permet de configurer une date d'expiration pour éviter que le système ne retienne indéfiniment votre clef. L'autre point fort de LibreChat réside dans sa conception même : comme tous les fichiers et conversations, les clefs API sont stockées en local (et chiffrées).
Par défaut, LibreChat arrive avec la majorité des fournisseurs de LLM du marché. Toutefois, si vous souhaitiez ajouter un service tiers additionnel, la plateforme supporte la plupart des API au format classique (sur le principe de celle d'OpenAI). Un peu de "bricolage" dans le fichier "librechat.yaml" sera toutefois nécessaire.
Trois utilisations possibles
LibreChat peut être configuré pour une utilisation en local sur votre ordinateur, en remote sur un serveur distant ou via l'outil de démonstration en ligne hébergé sur Hugging Face.
L'installation en local
Nous détaillions ici l'installation la plus courante, celle en local, sous Windows. Cette dernière est assez simple et plutôt rapide pour les utilisateurs avancés. La première étape consiste à installer Docker Destokp, un système de conteneurisation, permettant de déployer des applications. L'installation est rapide et très simple.
La seconde étape consiste à télécharger le code source de LibreChat depuis GitHub. Un fichier zip peut être téléchargé depuis le bouton "<> Code" en vert (voir ci-dessous). Une fois le fichier compressé téléchargé, il suffit de le décompresser à l'endroit où vous souhaitez installer LibreChat (exemple : sur le bureau).
La troisième étape consiste à configurer (rapidement) LibreChat. Pour cette dernière, il est nécessaire d'ouvrir l'invite de commande Windows. Pour ce faire lancer le programme "CMD" depuis la barre de recherche Windows. Entrez ensuite la commande suivante : "cd adresseDuDossier" où adresseDuDossier représente l'adresse d'installation de LibreChat. Par exemple : " C:\Users\bpolge\Downloads\LibreChat-main". Cette commande permet de travailler dans le dossier de LibreChat. Entrez ensuite "copy .env.example .env" pour activer le fichier de configuration nécessaire au lancement de LibreChat.
Enfin pour lancer LibreChat, entrez simplement la commande suivante : "docker compose up -d" La plateforme sera accessible en quelques secondes à partir de l'URL http://localhost:3080/ directement sur votre ordinateur.
A noter qu'il est également possible d'installer LibreChat en utilisant le gestionnaire de paquets npm au lieu de Docker.
Dans quels cas LibreChat est-il pertinent ?
LibreChat s'avère particulièrement pertinent dans plusieurs cas de figure. C'est une solution idéale pour ceux qui ne souhaitent pas multiplier les abonnements à différents services comme OpenAI, Anthropic et autres fournisseurs d'IA. Ensuite, il convient parfaitement aux utilisateurs qui préfèrent payer à l'usage pour leurs modèles d'IA plutôt que de s'engager dans des abonnements mensuels. Enfin, LibreChat est une excellente option pour ceux qui sont réticents à l'idée de fournir leurs clés d'API à des services tiers dont les pratiques en matière de sécurité et de confidentialité peuvent être opaques.
Toutefois, cette flexibilité s'accompagne d'une responsabilité accrue en termes de gestion des coûts. L'utilisation de gros contextes ou de nombreuses requêtes peut rapidement faire grimper la facture. Contrairement aux abonnements à prix fixe, le modèle de paiement à l'usage de LibreChat peut entraîner des dépenses imprévues si la consommation n'est pas surveillée attentivement. Il est donc fortement recommandé de vérifier régulièrement la facturation de chacun des services d'IA connectés et de mettre en place un suivi rigoureux de l'utilisation pour éviter les mauvaises surprises.