Quelle configuration choisir, de l'entraînement à l'inférence des LLM

Quelle configuration choisir, de l'entraînement à l'inférence des LLM L'infrastructure à mettre en place diffère grandement selon les cas d'usage. Tour d'horizon des configurations répondant à chacun.

De l'entraînement à l'inférence en passant par le RAG, les configurations matérielles à mettre en place sont très différentes selon les cas d'utilisation d'un large language model (LLM). A chaque profil d'usage une infrastructure de calcul particulière sera nécessaire.