Accueil
Matériel
Configurateur
Services
OEM Guides Qui sommes-nous Garantie Contact
ESENDEFRITPT
IA privée · Modèles

Modèles d’IA ouverts à utiliser en local : tailles, mémoire et matériel que demande chacun

Il existe des dizaines de modèles ouverts et il en sort un nouveau chaque mois. Pour choisir le matériel, pas besoin de tous les connaître : il suffit de savoir de quelle taille est celui qu’il vous faut. Ce guide classe les modèles par taille et indique la mémoire que chacun demande.

Équipe technique d’ACD&CO10 novembre 20266 min de lecture

Les familles et ce qui les distingue

Les modèles ouverts les plus utilisés viennent de quelques familles : Llama, Mistral, Qwen, Gemma, DeepSeek et Phi. Chacune publie plusieurs tailles du même modèle. Au sein d’une famille, la plus grande taille raisonne mieux et la plus petite répond plus vite.

La taille se mesure en milliards de paramètres. C’est le nombre qui décide de la mémoire, et donc du matériel.

La quantification : le même modèle dans moins de mémoire

Un modèle peut être stocké avec moins de précision pour chaque nombre. C’est ce qu’on appelle quantifier. Sur 4 bits, un modèle occupe environ quatre fois moins que l’original et perd très peu de qualité. C’est ce que presque tout le monde utilise en local.

La règle : sur 4 bits, environ 0,6 Go par milliard de paramètres, plus une marge pour la conversation.

Quelle mémoire et quel matériel demande chaque taille

Tailles de modèles, mémoire sur 4 bits et matériel de départ
Taille du modèleMémoire occupéeÀ quoi elle sertMatériel de départ
Jusqu’à 8 milliardsEnviron 5 GoClasser, extraire des données, résumer des textes courtsN’importe quelle carte graphique de 8 Go
De 12 à 32 milliardsDe 8 à 20 GoAssistant de travail, rédaction, documentsCarte graphique de 16 à 24 Go ou Compact AI 32
Environ 70 milliardsEnviron 42 GoRaisonnement plus fin, textes longsCompact AI 64 ou deux cartes graphiques de 24 Go
Plus de 100 milliardsPlus de 65 GoLes modèles ouverts les plus capablesCompact AI 128 ou une carte graphique de 96 Go

Un modèle moyen bien choisi règle l’essentiel du travail de bureau. Les grands valent la peine quand les questions sont complexes ou les documents très longs.

Le contexte : combien de texte il lit d’un coup

Le contexte est le texte que le modèle a sous les yeux : la question, les documents et la conversation. Un contexte plus grand permet de lire un contrat entier, mais il occupe de la mémoire en plus du modèle. C’est pourquoi une machine qui charge le modèle tout juste devient insuffisante dès qu’on lui passe un long document.

La licence : tous ne s’utilisent pas de la même façon

« Ouvert » ne veut pas dire la même chose dans tous les cas. Certains modèles sont publiés sous des licences comme Apache 2.0 ou MIT, qui permettent l’usage commercial sans autre condition. D’autres portent des conditions propres à l’éditeur. Avant de bâtir un produit sur un modèle, lisez sa licence.

Essayez deux ou trois modèles avec vos propres questions et dans votre langue avant de décider. Les classements généraux disent peu de la façon dont un modèle répond sur vos documents.

Questions fréquentes

Quel est le meilleur modèle ouvert ?

Cela dépend du travail et change tous les quelques mois. Ce qui reste stable, c’est la taille : un modèle moyen pour le quotidien et un grand pour le difficile. Avec un matériel bien dimensionné, changer de modèle revient à télécharger un autre fichier.

Un modèle perd-il en qualité sur 4 bits ?

Très peu en usage normal. Si le travail exige une fidélité maximale, on l’utilise sur 8 bits, qui occupe le double. C’est pourquoi il vaut mieux avoir de la mémoire en réserve.

Fonctionnent-ils bien en français ?

Les modèles moyens et grands des principales familles répondent bien dans les grandes langues européennes. Les plus petits sont plus faibles. Il vaut la peine de les essayer avec de vrais textes.

Puis-je les utiliser dans un produit que je vends ?

Pour beaucoup, oui, mais cela dépend de la licence de chaque modèle. Les licences Apache 2.0 et MIT le permettent. D’autres ont des conditions qu’il faut lire.

Faisons-nous le calcul pour votre entreprise ?

Dites-nous combien de personnes vont l’utiliser et avec quels documents. Nous répondons avec le matériel, la mise en service et un prix ferme sous 12 heures ouvrées.

Demander une proposition

Une proposition sous 12 heures ouvrées

Dites-nous ce qu’il vous faut

Dites-nous à quoi il servira et nous vous répondons avec une configuration et son prix. Si vous avez déjà un devis d’une autre marque, envoyez-le-nous et nous préparons l’équivalent.

  • Réponse écrite sous 12 heures ouvrées
  • Un seul interlocuteur, du devis à la garantie
  • Sans engagement : vos données ne servent qu’à vous répondre

+34 613 17 68 06info@acdcompany.es

Ce champ est obligatoire.
Vérifiez l’e-mail : il manque quelque chose.

Ou appelez-nous : +34 613 17 68 06