Come funziona: prima cerca, poi scrive
Quando si prepara il sistema, i documenti vengono divisi in pezzi e salvati in un indice che permette di cercare per significato, non solo per parole. Quando qualcuno fa una domanda, il sistema trova i frammenti pertinenti, li passa al modello insieme alla domanda, e il modello scrive la risposta citando da dove viene.
Si chiama generazione con recupero. Il vantaggio è doppio: il modello non ha bisogno di addestramento e, quando un documento cambia, basta indicizzarlo di nuovo.
Quali documenti vanno bene
Vanno bene PDF, documenti di testo, fogli di calcolo, presentazioni e posta. Quelli scansionati richiedono prima un riconoscimento del testo. Ciò che entra male esce male: una scansione storta o una tabella divisa su due pagine daranno risposte peggiori.
Permessi: ognuno vede il suo
Un assistente aziendale deve rispettare i permessi delle cartelle. Chi non può aprire la cartella delle buste paga non deve nemmeno ricevere una risposta tratta da lì. Chiedilo dall’inizio, perché è più facile farlo bene che sistemarlo dopo.
L’hardware che serve
Lavorano tre componenti: il modello linguistico, che è quello che richiede memoria grafica; un piccolo modello che trasforma il testo in vettori; e l’indice, che vive su un disco veloce. La quantità di documenti cambia poco l’hardware. A cambiarlo è quante persone fanno domande contemporaneamente.
| Caso | Hardware | Prezzo |
|---|---|---|
| Piccolo gruppo, modello grande e silenzio | Compact AI 64, memoria unificata | 2.940 € |
| Fino a 15 persone | Ryzen 9 9900X · 64 GB · RTX 5070 Ti 16 GB | 4.482 € |
| Fino a 30 persone | Ryzen 9 9950X · 64 GB · 2× RTX 5070 Ti 16 GB | 6.155 € |
| Fino a 60 persone | Ryzen 9 9950X · 128 GB · 2× RTX PRO 4000 Blackwell 24 GB | 12.252 € |
Cosa bisogna sapere dei suoi limiti
Il modello risponde con ciò che trova. Se il documento è superato, lo è anche la risposta. Se la domanda richiede di incrociare venti documenti, può sfuggirgliene uno. E se non trova nulla, un sistema fatto bene lo dice invece di inventare. Per questo la citazione conta: permette di verificare la risposta in dieci secondi.
Hardware e guide correlati
Domande frequenti
L’IA viene addestrata con i miei documenti?
No. I documenti vengono indicizzati per poterli cercare, ma il modello non cambia. Se togli un documento dall’indice, smette di comparire nelle risposte.
Quanti documenti regge?
Decine o centinaia di migliaia senza problemi: l’indice occupa poco e vive su un disco veloce. La dimensione dell’hardware dipende dal numero di persone che fanno domande insieme, non da quello dei documenti.
Rispetta chi può vedere ogni cartella?
Deve farlo, e bisogna chiederlo. L’assistente consulta i permessi delle cartelle e usa solo ciò che quella persona può aprire.
Può sbagliare?
Sì. Per questo ogni risposta riporta la citazione del documento da cui viene. Se un dato è importante, si verifica sull’originale, come faresti con un nuovo collega.
Facciamo il conto con la tua azienda?
Dicci quante persone la useranno e con quali documenti. Ti rispondiamo con l’hardware, l’installazione e un prezzo chiuso entro 12 ore lavorative.