Perché sviluppare in locale
Un agente fa molte chiamate al modello per ogni compito: pianifica, interroga uno strumento, controlla il risultato e ripete. In sviluppo questo si moltiplica per centinaia di prove al giorno. Con un modello aperto sul tuo computer, ogni prova costa uguale: niente.
La seconda ragione sono i dati. Se l’assistente lavorerà con contratti, fascicoli o disegni di un cliente, svilupparlo in locale evita di inviarli a terzi e semplifica l’accordo di riservatezza.
Cosa deve caricare il computer nello stesso momento
In sviluppo non c’è mai un solo programma aperto. Convivono il modello linguistico, un piccolo modello che trasforma i documenti in vettori, il database vettoriale, i container con gli strumenti dell’agente e l’ambiente di programmazione. Tutto questo richiede memoria e core.
Per questo la memoria unificata va bene: il modello usa la parte che gli serve e il resto rimane per tutto il resto, senza la ripartizione fissa di una scheda grafica dedicata. E un processore da 16 core compila e fa girare container senza che il modello ne risenta.
Quale computer per ogni modo di lavorare
| Lavoro | Computer | Perché | Prezzo |
|---|---|---|---|
| Prototipi e assistenti semplici | Compact AI 32 | Modelli fino a circa 19 GB e tutto l’ambiente intorno | 2.065 € |
| Agenti con un modello grande | Compact AI 64 | Modelli fino a circa 42 GB, con memoria libera per gli strumenti | 2.940 € |
| Più modelli o più agenti insieme | Compact AI 128 | Un modello grande per ragionare e altri piccoli per i compiti rapidi | 4.820 € |
| Fine-tuning e addestramento | Compatto con RTX PRO o workstation | Gli strumenti di addestramento richiedono una scheda grafica NVIDIA | Su misura |
Mettere a punto un modello non è come usarlo
Per usare i modelli, la memoria unificata basta. Per metterli a punto con i tuoi dati, quasi tutti gli strumenti lavorano con CUDA, la tecnologia di NVIDIA. Se il fine-tuning farà parte del lavoro, ordina il compatto con una RTX PRO o valuta una workstation con una o più schede grafiche.
Più persone sullo stesso computer
Un compatto sulla rete dell’ufficio serve tutto il team di sviluppo: ognuno lancia le prove dal proprio portatile e il modello risponde dal compatto. La gestione remota via IP permette di riavviarlo o di entrare nel BIOS senza toccarlo, anche da casa.
Dal prototipo a ciò che riceve il cliente
Ciò che funziona sulla tua scrivania deve funzionare allo stesso modo dal cliente. Il modo più sicuro è consegnare la stessa macchina su cui l’hai sviluppato, con lo stesso sistema e gli stessi modelli. Produciamo la serie con la tua immagine clonata, il tuo marchio sul case se lo vuoi e un numero di serie per unità.
È ciò che prevede il nostro programma OEM: la stessa configurazione in ogni unità, collaudo di 24 ore e sostituzione immediata durante la garanzia.
Hardware e guide correlati
Domande frequenti
Posso sviluppare agenti senza scheda grafica NVIDIA?
Sì. Per eseguire modelli e costruire agenti, la grafica integrata con memoria unificata è sufficiente. La scheda NVIDIA serve per mettere a punto o addestrare modelli e per i programmi che funzionano solo con CUDA.
Quale sistema operativo conviene?
Linux è la norma nello sviluppo di IA: quasi tutti gli strumenti escono prima per Linux e la grafica integrata sfrutta un po’ più di memoria. Lo consegniamo installato senza costi. Windows 11 Pro su richiesta.
Lo stesso computer va bene per la demo al cliente?
Sì, ed è uno dei suoi vantaggi: sta in uno zaino, si avvia da solo e funziona senza connessione. La demo gira sulla stessa macchina che poi viene installata.
Potete produrre più unità identiche per i miei clienti?
Sì. Montiamo la serie con la stessa configurazione, carichiamo la tua immagine di sistema e consegniamo ogni unità con il suo numero di serie e il rapporto di collaudo. Se rivendi, l’imballo può essere senza il nostro marchio.
Per cosa lo userai?
Raccontaci quali modelli vuoi far girare, quante persone lo useranno e dove lavorerà. Ti proponiamo il compatto, con o senza scheda grafica professionale, e il suo prezzo entro 12 ore lavorative.