La memoria decide quale modello puoi usare
Un modello linguistico risponde in fretta solo se sta tutto nella memoria usata dalla grafica. In un mini PC con memoria unificata, il processore e la grafica integrata condividono la stessa memoria, quindi la grafica può usarne la maggior parte. Per questo un computer piccolo fa girare modelli che in un tower richiederebbero una scheda grafica molto costosa.
Il conto è semplice: un modello compresso a 4 bit occupa circa 0,6 GB per ogni miliardo di parametri. Uno da 30 miliardi occupa circa 19 GB e uno da 70 miliardi circa 42 GB. A questo si aggiunge la memoria della conversazione, che cresce con la lunghezza dei documenti.
Le tre taglie e cosa ci sta in ciascuna
La memoria è saldata sulla scheda madre, quindi non si amplia dopo: bisogna scegliere bene all’acquisto. Questi sono i tre computer e il loro prezzo di oggi.
| Computer | Memoria per la grafica | Modelli che ci stanno | A cosa serve | Prezzo |
|---|---|---|---|---|
| Compact AI 32 | Fino a 24 GB | Fino a circa 19 GB | Assistente per un piccolo gruppo, trascrizione, visione leggera | 2.065 € |
| Compact AI 64 | Fino a 48 GB | Fino a circa 42 GB | Modelli grandi, assistente con documenti, sviluppo di agenti | 2.940 € |
| Compact AI 128 | Fino a 96 GB | Fino a circa 80 GB, o diversi insieme | I modelli locali più grandi, più modelli, analisi lunghe | 4.820 € |
Che velocità aspettarsi
La memoria unificata è veloce, ma non quanto quella di una scheda grafica dedicata. Un modello medio risponde in modo fluido. Uno da 70 miliardi di parametri scrive poche parole al secondo: va bene per una persona che aspetta la risposta, non per venti insieme.
Se lo useranno molte persone contemporaneamente, o se la risposta deve essere immediata, rende di più una scheda grafica dedicata. È il motivo per cui questi computer ne accettano una.
Quando aggiungere una scheda grafica professionale
A ognuno dei tre si può montare una NVIDIA RTX PRO e resta compatto: passa in un case di circa 10 litri. Conviene quando ci sono molti utenti contemporanei, più telecamere con visione artificiale o programmi che richiedono CUDA, la tecnologia di NVIDIA usata da quasi tutti gli strumenti di addestramento.
| Scheda grafica | Memoria | Supplemento |
|---|---|---|
| NVIDIA RTX PRO 2000 Blackwell | 16 GB con ECC | + €2,005 |
| NVIDIA RTX PRO 4000 Blackwell | 24 GB con ECC | + €3,820 |
| NVIDIA RTX PRO 4500 Blackwell | 32 GB con ECC | + €5,760 |
Il modello può stare tutto sulla scheda grafica, per guadagnare velocità, o dividersi tra la scheda e la memoria unificata, per guadagnare dimensione.
Quali programmi si usano
I modelli aperti si eseguono con programmi gratuiti come Ollama, LM Studio o llama.cpp e si interrogano dal browser con un’interfaccia simile a quella degli assistenti in cloud. Funzionano su Windows e su Linux. Su Linux la grafica integrata può usare un po’ più di memoria che su Windows.
Il computer viene consegnato con Linux installato senza costi, o con Windows 11 Pro su richiesta. Se vuoi, lo lasciamo con i modelli scaricati e l’interfaccia pronta da aprire.
Cosa guardare prima di comprare
Oltre alla memoria, quattro cose separano una macchina da lavoro da una da hobbista: 2 TB di disco o più, perché ogni modello occupa decine di gigabyte; la gestione remota via IP, per seguirla senza starle davanti; una garanzia che copra l’uso continuo; e che qualcuno l’abbia collaudata 24 ore a pieno carico prima di spedirla.
Hardware e guide correlati
Domande frequenti
Bastano 32 GB per un assistente IA?
Per un piccolo gruppo sì: ci stanno modelli fino a circa 19 GB, che rispondono bene alle domande sui documenti e scrivono con scioltezza. Se vuoi modelli più grandi o diversi insieme, quello da 64 GB è il punto di equilibrio.
Posso ampliare la memoria più avanti?
No. In questi computer la memoria è saldata sulla scheda madre, ed è questo a renderla così veloce. Si ampliano il disco, con un secondo slot M.2, e la grafica, con una NVIDIA RTX PRO dedicata.
Mini PC con memoria unificata o tower con una RTX?
Il mini PC vince quando il modello è grande e lo usano poche persone: carica ciò che non sta su una scheda da 16 o 24 GB. Il tower con RTX vince in velocità e con molti utenti contemporanei, ed è necessario per addestrare modelli.
Quanto consuma?
Una frazione di quanto consuma una workstation con scheda grafica dedicata: ha un processore a basso consumo e un alimentatore da 450 W che lavora molto sotto il suo limite. Per questo va bene anche per installazioni con poca energia disponibile.
Per cosa lo userai?
Raccontaci quali modelli vuoi far girare, quante persone lo useranno e dove lavorerà. Ti proponiamo il compatto, con o senza scheda grafica professionale, e il suo prezzo entro 12 ore lavorative.