Qu'est-ce qu'un modèle fondation ?
Un modèle fondation est un grand modèle IA pré-entraîné sur des jeux de données massifs (texte, images, code, audio) sans spécialisation. Exemples : GPT-4, Claude, Gemini, Llama. Le modèle fondation est une « base » qui est ensuite adaptée pour des applications spécifiques.
De la base à la spécialisation
Un modèle fondation brut est un généraliste. La personnalisation se fait par : le fine-tuning (réentraînement sur des données de domaine), le RAG (fourniture de contexte depuis des bases de connaissances), le prompt engineering (instructions système définissant rôle et contraintes) et le RLHF (apprentissage par retour humain).
Modèles ouverts vs fermés
Les modèles fondation existent en version ouverte (Llama, Mistral — téléchargeables, exécutables sur vos serveurs) et fermée (GPT-4, Claude — accessibles uniquement via API). Le choix impacte le coût, la confidentialité, la flexibilité de personnalisation et le risque de verrouillage fournisseur.