Home
Hardware
Configuratore
Servizi
OEM Guide Chi siamo Garanzia Contatti
ESENDEFRITPT
IA privata · Modelli

Modelli di IA aperti da usare in locale: taglie, memoria e hardware che ciascuno richiede

Esistono decine di modelli aperti e ogni mese ne esce uno nuovo. Per scegliere l’hardware non serve conoscerli tutti: basta sapere di che taglia è quello che ti serve. Questa guida ordina i modelli per taglia e dice quanta memoria richiede ciascuno.

Team tecnico di ACD&CO10 novembre 20266 min di lettura

Le famiglie e cosa le distingue

I modelli aperti più usati vengono da poche famiglie: Llama, Mistral, Qwen, Gemma, DeepSeek e Phi. Ognuna pubblica più taglie dello stesso modello. All’interno di una famiglia, la taglia maggiore ragiona meglio e la minore risponde più in fretta.

La taglia si misura in miliardi di parametri. È il numero che decide la memoria, e quindi l’hardware.

La quantizzazione: lo stesso modello in meno memoria

Un modello si può salvare con meno precisione per ogni numero. Questo si chiama quantizzare. A 4 bit, un modello occupa circa un quarto dell’originale e perde pochissima qualità. È ciò che quasi tutti usano in locale.

La regola: a 4 bit, circa 0,6 GB per ogni miliardo di parametri, più un margine per la conversazione.

Che memoria e che hardware richiede ogni taglia

Taglie dei modelli, memoria a 4 bit e hardware di partenza
Taglia del modelloMemoria occupataA cosa serveHardware di partenza
Fino a 8 miliardiCirca 5 GBClassificare, estrarre dati, riassumere testi breviQualsiasi scheda grafica da 8 GB
Da 12 a 32 miliardiDa 8 a 20 GBAssistente di lavoro, scrittura, documentiScheda grafica da 16 a 24 GB o Compact AI 32
Circa 70 miliardiCirca 42 GBRagionamento più fine, testi lunghiCompact AI 64 o due schede grafiche da 24 GB
Più di 100 miliardiPiù di 65 GBI modelli aperti più capaciCompact AI 128 o una scheda grafica da 96 GB

Un modello medio scelto bene risolve la maggior parte del lavoro d’ufficio. Quelli grandi convengono quando le domande sono complesse o i documenti molto lunghi.

Il contesto: quanto testo legge in una volta

Il contesto è il testo che il modello ha davanti: la domanda, i documenti e la conversazione. Un contesto più grande permette di leggere un contratto intero, ma occupa memoria in più oltre al modello. Per questo una macchina che carica il modello a filo diventa insufficiente appena le si passa un documento lungo.

La licenza: non tutti si possono usare allo stesso modo

«Aperto» non significa la stessa cosa in tutti i casi. Alcuni modelli sono pubblicati con licenze come Apache 2.0 o MIT, che permettono l’uso commerciale senza altro. Altri hanno condizioni proprie del produttore. Prima di costruire un prodotto su un modello, leggi la sua licenza.

Prova due o tre modelli con le tue domande e nella tua lingua prima di decidere. Le classifiche generali dicono poco di come un modello risponde sui tuoi documenti.

Domande frequenti

Qual è il miglior modello aperto?

Dipende dal lavoro e cambia ogni pochi mesi. Ciò che resta stabile è la taglia: un modello medio per il quotidiano e uno grande per le cose difficili. Con un hardware ben dimensionato, cambiare modello significa scaricare un altro file.

Un modello perde qualità a 4 bit?

Pochissimo nell’uso normale. Se il lavoro richiede la massima fedeltà, si usa a 8 bit, che occupa il doppio. Per questo conviene avere memoria in abbondanza.

Funzionano bene in italiano?

I modelli medi e grandi delle principali famiglie rispondono bene nelle maggiori lingue europee. I più piccoli sono più deboli. Conviene provarli con testi reali.

Posso usarli in un prodotto che vendo?

Con molti sì, ma dipende dalla licenza di ciascun modello. Le licenze Apache 2.0 e MIT lo permettono. Altre hanno condizioni che vanno lette.

Facciamo il conto con la tua azienda?

Dicci quante persone la useranno e con quali documenti. Ti rispondiamo con l’hardware, l’installazione e un prezzo chiuso entro 12 ore lavorative.

Richiedi una proposta

Proposta entro 12 ore lavorative

Raccontaci cosa ti serve

Dicci a cosa ti serve e ti rispondiamo con una configurazione e il suo prezzo. Se hai già un preventivo di un’altra marca, mandacelo e prepariamo l’equivalente.

  • Risposta scritta entro 12 ore lavorative
  • Un solo interlocutore, dal preventivo alla garanzia
  • Senza impegno: usiamo i tuoi dati solo per risponderti

+34 613 17 68 06info@acdcompany.es

Questo campo è obbligatorio.
Controlla l’email: manca qualcosa.

Oppure chiamaci: +34 613 17 68 06