Quali requisiti hardware servono?
Dipende dal modello e da quante persone lo usano nello stesso momento. Per uno studio da 5 a 15 postazioni basta una singola GPU professionale da 24-48 GB di VRAM: fa girare modelli di fascia media con risposte immediate. Per volumi più alti, contesti molto lunghi o modelli di grandi dimensioni si passa a configurazioni multi-GPU da 80 GB. Se preferisci non avere hardware in sede, la stessa cosa gira su una VPS dedicata con GPU riservata: nessun investimento iniziale, stesse garanzie di isolamento. Il dimensionamento lo facciamo dopo aver visto i tuoi casi d'uso reali, non prima: è l'unico modo per non venderti una macchina più grande del necessario.
Come garantite che i dati del paziente non escano dal server?
Perché non esiste la strada per uscire. Il modello gira interamente sulla tua macchina e non ha bisogno di internet per rispondere: nella configurazione standard il traffico in uscita è bloccato dal firewall e restano aperte solo le connessioni interne necessarie. Non ci sono chiamate ad API esterne, quindi non c'è un canale da cui i dati possano partire. Sopra a questo aggiungiamo accessi nominali con log di audit, cifratura del disco e conservazione delle conversazioni configurabile fino alla cancellazione immediata. Tutto quanto è descritto nel DPA che firmiamo ai sensi dell'art. 28 GDPR, così la garanzia non resta a parole. Se vuoi verificarlo di persona, durante la demo ti mostriamo la macchina con la rete staccata: continua a rispondere.
Possiamo usare i nostri documenti per addestrare il modello?
Sì, e quasi sempre conviene farlo senza addestrare nulla. Con un RAG privato i tuoi documenti restano nel loro archivio, indicizzato dentro la tua infrastruttura: il modello li consulta nel momento in cui fai la domanda e ti cita la fonte. Il vantaggio è concreto — aggiungi un documento e l'AI lo conosce subito, ne elimini uno e smette immediatamente di essere consultabile, e ogni risposta è verificabile. Quando serve davvero un adattamento più profondo del linguaggio, per esempio per riprodurre la forma degli atti del tuo studio, procediamo con un fine-tuning eseguito anch'esso in locale: i dati non lasciano il perimetro e il modello che ne esce è tuo, non nostro.
Un modello locale è meno capace di ChatGPT?
Sui lavori che servono davvero a uno studio la differenza è ormai marginale. Riassumere referti, preparare bozze, classificare pratiche, cercare dentro l'archivio interno, rispondere ai clienti: sono compiti in cui i modelli aperti di ultima generazione, collegati ai documenti giusti, reggono il confronto senza problemi. E c'è un vantaggio che un modello pubblico non può avere: il tuo conosce i documenti del tuo studio, perché quelli non glieli manderesti mai.
Quanto tempo serve per l'installazione?
Su server dedicato si parte in genere in un paio di settimane: analisi dei casi d'uso, dimensionamento, installazione, collegamento dei documenti, formazione del team. Con hardware on-premise si aggiungono i tempi di fornitura della macchina. La prima cosa che consegniamo non è comunque l'installazione, ma la demo dell'infrastruttura: prima vedi come lavora, poi decidi.
Cosa succede se il modello sbaglia una risposta?
Succede, come con qualunque AI, ed è il motivo per cui configuriamo il sistema perché citi sempre la fonte da cui ha preso l'informazione: la verifica ti costa un clic. L'AI locale è uno strumento di supporto al professionista, non un sostituto della sua firma — e questo, oltre che ragionevole, è esattamente ciò che l'AI Act chiede in termini di supervisione umana negli usi più delicati.