Les familles et ce qui les distingue
Les modèles ouverts les plus utilisés viennent de quelques familles : Llama, Mistral, Qwen, Gemma, DeepSeek et Phi. Chacune publie plusieurs tailles du même modèle. Au sein d’une famille, la plus grande taille raisonne mieux et la plus petite répond plus vite.
La taille se mesure en milliards de paramètres. C’est le nombre qui décide de la mémoire, et donc du matériel.
La quantification : le même modèle dans moins de mémoire
Un modèle peut être stocké avec moins de précision pour chaque nombre. C’est ce qu’on appelle quantifier. Sur 4 bits, un modèle occupe environ quatre fois moins que l’original et perd très peu de qualité. C’est ce que presque tout le monde utilise en local.
La règle : sur 4 bits, environ 0,6 Go par milliard de paramètres, plus une marge pour la conversation.
Quelle mémoire et quel matériel demande chaque taille
| Taille du modèle | Mémoire occupée | À quoi elle sert | Matériel de départ |
|---|---|---|---|
| Jusqu’à 8 milliards | Environ 5 Go | Classer, extraire des données, résumer des textes courts | N’importe quelle carte graphique de 8 Go |
| De 12 à 32 milliards | De 8 à 20 Go | Assistant de travail, rédaction, documents | Carte graphique de 16 à 24 Go ou Compact AI 32 |
| Environ 70 milliards | Environ 42 Go | Raisonnement plus fin, textes longs | Compact AI 64 ou deux cartes graphiques de 24 Go |
| Plus de 100 milliards | Plus de 65 Go | Les modèles ouverts les plus capables | Compact AI 128 ou une carte graphique de 96 Go |
Un modèle moyen bien choisi règle l’essentiel du travail de bureau. Les grands valent la peine quand les questions sont complexes ou les documents très longs.
Le contexte : combien de texte il lit d’un coup
Le contexte est le texte que le modèle a sous les yeux : la question, les documents et la conversation. Un contexte plus grand permet de lire un contrat entier, mais il occupe de la mémoire en plus du modèle. C’est pourquoi une machine qui charge le modèle tout juste devient insuffisante dès qu’on lui passe un long document.
La licence : tous ne s’utilisent pas de la même façon
« Ouvert » ne veut pas dire la même chose dans tous les cas. Certains modèles sont publiés sous des licences comme Apache 2.0 ou MIT, qui permettent l’usage commercial sans autre condition. D’autres portent des conditions propres à l’éditeur. Avant de bâtir un produit sur un modèle, lisez sa licence.
Matériel et guides associés
Questions fréquentes
Quel est le meilleur modèle ouvert ?
Cela dépend du travail et change tous les quelques mois. Ce qui reste stable, c’est la taille : un modèle moyen pour le quotidien et un grand pour le difficile. Avec un matériel bien dimensionné, changer de modèle revient à télécharger un autre fichier.
Un modèle perd-il en qualité sur 4 bits ?
Très peu en usage normal. Si le travail exige une fidélité maximale, on l’utilise sur 8 bits, qui occupe le double. C’est pourquoi il vaut mieux avoir de la mémoire en réserve.
Fonctionnent-ils bien en français ?
Les modèles moyens et grands des principales familles répondent bien dans les grandes langues européennes. Les plus petits sont plus faibles. Il vaut la peine de les essayer avec de vrais textes.
Puis-je les utiliser dans un produit que je vends ?
Pour beaucoup, oui, mais cela dépend de la licence de chaque modèle. Les licences Apache 2.0 et MIT le permettent. D’autres ont des conditions qu’il faut lire.
Faisons-nous le calcul pour votre entreprise ?
Dites-nous combien de personnes vont l’utiliser et avec quels documents. Nous répondons avec le matériel, la mise en service et un prix ferme sous 12 heures ouvrées.