Se chiedi a tre fornitori cosa sia la private AI ottieni tre risposte, e ognuna somiglia moltissimo al catalogo di chi risponde. Per chi produce acceleratori è un’infrastruttura di calcolo dedicata, per chi produce server è un server nel tuo centro dati e per chi vende virtualizzazione è la propria piattaforma di virtualizzazione.

La domanda che quasi tutti portano in riunione è dove stiano fisicamente i dati. Quella che conta però è chi può leggerli, per quanto tempo, con quale impegno scritto e come lo si verifica. La seconda si può girare a un fornitore cloud ottenendo risposte documentate, e nel frattempo, secondo Eurostat, l’ostacolo che le imprese europee citano più spesso prima di adottare l’AI non è la privacy, è la mancanza di competenze interne, e vale la pena ricordarlo prima di firmare un preventivo per dell’hardware altamente dispendioso in termini economici.

Cos’è la Private AI e come funziona

Sulle pagine ufficiali dei tre fornitori principali non compare una definizione tecnica indipendente dal prodotto. NVIDIA, che vende schede grafiche e licenze software, descrive un’infrastruttura di calcolo specializzata e presenta l’opzione in casa come quella che dà «full control over data and performance». Dell, che vende server, descrive la propria offerta congiunta con NVIDIA. Broadcom, che si occupa di virtualizzazione, descrive una soluzione in cui la privacy coincide con l’uso della propria piattaforma. Sono tutte e tre parti interessate, e nessuna delle tre sta definendo un concetto.

Conviene allora trattare l’espressione come un ombrello di pratiche e guardare cosa c’è sotto. Le proprietà che il mercato impacchetta insieme sono quattro e sono separabili. L’esecuzione su infrastruttura controllata riguarda chi possiede e amministra le macchine. Dove risiedono i dati riguarda in quale area geografica i dati sono conservati ed elaborati. L’isolamento del tenant, dove per tenant si intende lo spazio riservato a un singolo cliente dentro un servizio condiviso, riguarda chi altro può arrivare a quei dati.

Si possono avere tutte e 3, alcune o nessuna, sia su macchine proprie sia su un cloud pubblico. Chi vende un prodotto tende a presentarle come un blocco unico, perché il blocco unico è il prodotto.

Come viene implementata

Nella pratica le strade sono due, e la prima è scaricare i pesi di un modello aperto e farlo girare su hardware proprio. La seconda è usare un modello commerciale tramite interfaccia di programmazione, stringendo i vincoli per contratto e per configurazione.

La prima strada è più accessibile di quanto sembri, visto che un modello aperto da 117 miliardi di parametri come gpt-oss-120b entra su una sola scheda grafica da 80 GB grazie alla quantizzazione MXFP4 dei suoi pesi, mentre l’architettura a MoE, che attiva 5,1 miliardi di parametri per ogni pezzo di testo generato, riduce il calcolo e non la memoria occupata. La versione minore, gpt-oss-20b, sta in 16 GB di memoria, ed entrambe escono con licenza Apache 2.0, che consente uso commerciale e modifica.

Pesi scaricabili significa open weight, non open source: i dati con cui il modello è stato addestrato non sono pubblicati, quindi la trasparenza è parziale e non permette di sapere su cosa il modello ha imparato.

AI privata, AI pubblica e cloud: differenze

Il luogo comune per cui cloud pubblico equivale a dati fuori controllo non regge alla lettura della documentazione contrattuale. Microsoft dichiara per iscritto che prompt, risposte, rappresentazioni numeriche del testo e dati di addestramento del cliente non sono disponibili ad altri clienti né ai fornitori dei modelli, e non vengono usati per addestrare modelli generativi «without your permission or instruction». AWS documenta che i fornitori dei modelli non hanno accesso agli account su cui i modelli sono distribuiti, quindi né ai registri né ai prompt dei clienti. Anthropic scrive «by default, we will not use your inputs or outputs from our commercial products to train our models», con l’eccezione del feedback esplicito, conservato fino a cinque anni in forma de-identificata.

Quella formula va letta per quello che è, cioè un default con eccezioni documentate e non una proprietà fisica del sistema. Accanto al non addestramento vive quasi sempre altro, perché Microsoft conserva un campione di prompt e risposte per il monitoraggio degli abusi, con revisione umana in uno spazio separato per cliente e, per i clienti dello Spazio economico europeo, revisori autorizzati nello Spazio economico europeo.

La differenza vera fra pubblico e privato non è chi legge i tuoi dati, è chi ha il controllo operativo e chi porta il rischio quando qualcosa va storto.

AI privata

On premise, cloud privato, ibride

Tenere tutto in casa dà il controllo massimo e l’onere massimo, perché ogni aggiornamento, ogni guasto e ogni verifica di sicurezza restano tuoi. Un servizio gestito con vincoli configurati sposta parte del lavoro sul fornitore e trasforma il controllo in garanzie scritte, che vanno lette e negoziate. La configurazione mista tiene in casa i dati o i casi d’uso più sensibili e manda fuori il resto.

Che la geografia sia una scelta e non una caratteristica fissa del cloud lo mostra la documentazione Microsoft, dove il tipo di distribuzione decide dove avviene l’elaborazione: quella standard resta nell’area scelta dal cliente, quella di tipo DataZone può usare qualsiasi paese dell’area, quella globale rinuncia al vincolo sull’elaborazione pur mantenendo i dati a riposo nell’area designata. Esiste anche un impegno più ampio, l’EU Data Boundary, che copre Unione Europea più i paesi EFTA e ha eccezioni documentate.

La scelta non è morale, è un’allocazione di rischio e di lavoro.

Quando scegliere la Private AI

Spostare in casa ha senso quando un obbligo normativo o contrattuale specifico e documentato vieta al dato di uscire, quando il volume di elaborazione è alto e costante, quando serve un modello adattato in profondità su dati proprietari e quando esiste già una funzione tecnica in grado di mantenerlo, e di queste quattro condizioni la quarta è quella che salta più spesso.

Ha meno senso quando il caso d’uso è ancora esplorativo, quando i volumi sono irregolari, o quando il gruppo che dovrebbe tenere in piedi il sistema fra sei mesi semplicemente non esiste. 

Perché le aziende investono

Nel 2025 il 19,95% delle imprese dell’Unione Europea ha usato tecnologie di intelligenza artificiale, secondo Eurostat. È una minoranza, e la fotografia degli ostacoli dichiarati da chi ci ha pensato senza adottarla è più istruttiva del totale: la mancanza di competenze rilevanti è al 70,89%, la mancanza di chiarezza sulle conseguenze legali al 52,52%, le preoccupazioni su privacy e protezione dei dati al 48,83%. La voce meno citata, al 20,68%, è che l’AI non sia utile all’impresa.

La privacy è quindi un ostacolo vero, dichiarato da quasi la metà di chi si è fermato, ma non è il primo. Un’organizzazione che risponde a un problema di competenze comprando infrastruttura sta risolvendo la terza voce dell’elenco e lasciando intatta la prima.

Protezione dati e conformità

Il rischio regolatorio non è teorico e non si risolve spostando i server. Il 2 novembre 2024 il Garante per la protezione dei dati personali ha chiuso l’istruttoria su ChatGPT con una sanzione da 15 milioni di euro, contestando fra l’altro l’addestramento senza una base giuridica adeguata individuata in anticipo, la violazione degli obblighi di trasparenza, la mancata notifica di una violazione dei dati e l’assenza di verifica dell’età. Il 30 gennaio 2025 la stessa autorità ha disposto la limitazione del trattamento dei dati degli utenti italiani verso le due società cinesi di DeepSeek, che sostenevano di non operare in Italia e che la normativa europea non fosse loro applicabile.

Nessuno dei due riguarda la geografia dell’hosting, ma base giuridica, trasparenza e applicabilità del diritto europeo, che ti seguono ovunque metti le macchine.

Sulla stessa linea l’EDPB, nell’Opinion 28/2024 del 18 dicembre 2024, ha espresso il parere che l’anonimia di un modello va valutata caso per caso, che il legittimo interesse può reggere come base giuridica superando un test in tre fasi, e che un modello sviluppato con dati trattati illecitamente si porta dietro il problema anche nell’uso a valle.

Il calendario dell’AI Act, poi, è cambiato, e molte pagine in circolazione riportano ancora le date vecchie. Secondo la pagina della Commissione europea, il regolamento Omnibus è in vigore dal 27 luglio 2026 e le scadenze per l’alto rischio sono ora il 2 dicembre 2027 per le aree sensibili come biometria, infrastrutture critiche, istruzione, occupazione e frontiere, e il 2 agosto 2028 per i sistemi incorporati in prodotti. I livelli di rischio restano quattro, e la grande maggioranza dei sistemi in uso nell’Unione ricade nel minimo.

Personalizzazione e integrazione

Il vantaggio meno raccontato del controllo sul modello non riguarda la privacy, ma la possibilità di adattare il modello e collocarlo dove servono i dati senza chiedere permesso a nessuno. Una licenza permissiva e dei pesi scaricabili significano che puoi modificarlo, integrarlo nei processi e portarlo su una macchina diversa quando cambia il fornitore.

Il contrappeso è che chi esegue in proprio si prende anche aggiornamenti, valutazione e manutenzione. Un altro segnale merita attenzione da parte di chi valuta la trasparenza dichiarata dall’ecosistema: secondo l’AI Index 2026 di Stanford HAI, il Foundation Model Transparency Index è sceso da 58 a 40 punti.

Prestazioni, controllo, governance

Il modello aperto che puoi tenere in casa non è più un ripiego e non è nemmeno identico alla frontiera. La distanza si misura: secondo Epoch AI, al 29 maggio 2026 i modelli aperti più capaci inseguono quelli chiusi di frontiera con circa quattro mesi di ritardo, pari a otto punti circa sull’indice usato, un divario paragonabile a quello fra due versioni consecutive dello stesso modello di punta. Anche se modelli recenti come qwen3.8 e glm5.3 stanno colmando il divario con i modelli di frontiera.

Sul controllo, la cosa da chiedere a un fornitore è una garanzia verificabile e non una rassicurazione a voce. Il monitoraggio degli abusi su Azure, per esempio, è disattivabile su richiesta per i clienti gestiti, e lo stato della disattivazione si può controllare come attributo della configurazione. Una garanzia che non si può ispezionare vale quanto una promessa.

Vantaggi e limiti

Quasi tutti i vantaggi attribuiti all’AI privata sono replicabili sul cloud per contratto e per configurazione. Restano davvero esclusivi solo quelli che dipendono dal possesso fisico dell’infrastruttura, cioè decidere da soli quando aggiornare, come isolare la rete e cosa fare quando il fornitore cambia condizioni. I limiti invece si pagano tutti, e si pagano prima in competenze che in hardware.

PMI e grandi imprese

Per una piccola o media impresa la barriera non è più la macchina. Un modello aperto piccolo gira entro 16 GB di memoria, il che vuol dire che un computer di fascia alta basta a farlo partire. La distanza fra farlo partire e reggere un processo aziendale è però fatta di valutazione della qualità delle risposte, sicurezza, aggiornamenti e persone che se ne occupino. 

Il percorso ragionevole per una PMI parte quasi sempre da servizi gestiti con vincoli contrattuali chiari, e sceglie con cura fra gli strumenti AI per aziende quelli che dichiarano per iscritto cosa fanno dei dati. Le grandi imprese hanno più spesso già la funzione tecnica interna, e per loro la domanda si sposta sul volume e sul grado di adattamento richiesto.

Costi, infrastruttura, competenze

I fornitori di infrastruttura pubblicano confronti economici a proprio favore, con clausole e metodologia non leggibile nella pagina che li ospita, quellodi cui si può parlare sono i fattori che compongono il conto.

Il primo è il costo del calcolo: sul listino di un fornitore di GPU in cloud e soggetto a variazione, una NVIDIA H100 SXM costa 3,99 dollari per GPU all’ora sull’istanza a otto schede e fino a 4,29 sulla singola, mentre una B200 parte da 6,69. Il secondo fattore è la memoria richiesta dal modello scelto, che decide quante schede servono. Il terzo è il volume di elaborazione previsto, perché una macchina accesa costa anche quando nessuno la usa e le interfacce a consumo no. Il quarto sono le persone che mantengono il sistema, ed è il fattore che nei preventivi compare meno e pesa di più.

Come adottare una strategia

L’ordine giusto delle domande parte dal caso d’uso e dal dato che tocca, passa per il vincolo normativo o contrattuale che quel dato porta con sé, e arriva all’architettura per ultima, mentre chi parte dall’architettura compra una soluzione prima di avere un problema.

Un criterio utile per capire quali obblighi ti riguardano è la distinzione fra chi immette un sistema sul mercato e chi lo usa sotto la propria autorità. Un’azienda che adotta un modello di terzi sta di norma nella seconda posizione, ma passa nella prima se lo rilascia sotto il proprio marchio o lo modifica in modo sostanziale, e con quel passaggio si prende obblighi diversi. Ricordare che la grande maggioranza dei sistemi ricade nel rischio minimo aiuta a tenere la conversazione lontana dall’allarmismo. Per il resto del percorso vale la nostra guida su come implementare l’intelligenza artificiale in azienda.

Valutare processi, dati, casi d’uso

Quattro domande bastano a portare la discussione dal generico al decidibile. Che dato tocca questo processo, e chi ne risponde dentro l’azienda. Esiste un obbligo scritto che vieta a quel dato di uscire, oppure c’è solo un’abitudine che nessuno ha mai messo in discussione. Qual è il volume atteso, non quello sperato. Chi mantiene questa cosa fra sei mesi, con nome e cognome.

La prima è più sottile di quanto sembri, perché l’Opinion dell’EDPB ricorda che l’anonimia va valutata caso per caso: un insieme di dati che sembra innocuo può non esserlo nel tuo caso specifico. La quarta è quella che il dato Eurostat sulle competenze rende non negoziabile.

Dalla sperimentazione all’ecosistema

Si comincia da un caso d’uso circoscritto e misurabile, con la configurazione più semplice che soddisfi i vincoli, e ci si sposta verso un controllo maggiore solo quando un numero reale lo giustifica. L’architettura segue l’uso, non lo precede.

Aspettare la configurazione perfetta è comunque una cattiva idea, perché il divario misurato da Epoch fra modelli aperti e di frontiera è di pochi mesi e si riduce. Qualunque scelta tu faccia oggi sarà superata da entrambi i lati, e il vantaggio resta a chi nel frattempo ha imparato qualcosa sui propri processi. Quando i casi d’uso diventano più d’uno e cominciano a parlarsi, il discorso si sposta sugli agenti AI per aziende, che è una fase successiva e non un punto di partenza.

Errori da evitare

Comprare l’etichetta invece della garanzia è il primo errore: farsi vendere private AI senza chiedere quale delle quattro proprietà viene garantita, con quale formulazione contrattuale e con quale metodo di verifica, è la forma più cara di AI washing che un decisore possa firmare.

Il secondo è leggere «non addestriamo sui tuoi dati» come «i tuoi dati non vengono conservati né letti da nessuno». È un default con eccezioni, e accanto a quel default vive quasi sempre una conservazione temporanea per il monitoraggio degli abusi.

Il terzo è trattare la residenza dei dati come una caratteristica fissa del cloud invece che come una scelta di configurazione da mettere per iscritto. Il quarto è usare fonti superate sul calendario dell’AI Act, visto che parecchie pagine ancora online indicano il 2 agosto 2026 per l’alto rischio mentre la fonte istituzionale aggiornata al 3 agosto 2026 riporta 2 dicembre 2027 e 2 agosto 2028.

Il quinto è risolvere in hardware un problema che è di competenze e di governance, che è esattamente quello che i dati Eurostat suggeriscono di non fare. L’ultimo punto è prendere per buone le cifre di risparmio pubblicate da chi vende l’infrastruttura con cui il confronto è fatto, dato che sono claim di parte e la metodologia non è leggibile dove il claim è esposto.

I consigli di Data Masters

Chiedi al fornitore l’impegno scritto e il modo di verificarlo, non la rassicurazione in riunione. Se una garanzia non ha un attributo da ispezionare, una clausola da citare o un registro da leggere, non è una garanzia.

Parti dal caso d’uso e dal dato, non dall’architettura, e accetta che la risposta possa essere noiosa, perché per moltissimi processi aziendali un servizio gestito con i vincoli giusti fa il lavoro senza aprire un centro dati.

E investi sulle competenze interne prima che sull’infrastruttura, perché è l’ostacolo che, fra le imprese europee che hanno valutato l’AI senza adottarla, viene citato per primo, ed è l’unico che nessun fornitore può risolvere al posto tuo. Se poi la strada porta davvero a costruire qualcosa su misura, il nostro percorso di sviluppo di soluzioni AI per aziende nasce per fare quel passo insieme al vostro gruppo di lavoro, non al posto suo.

 

NEWSLETTER

Ricevi direttamente sulla tua mail gli ultimi articoli pubblicati nella nostra sezione AI NEWS per rimanere sempre aggiornato e non perderti nessun contenuto.

Simone Truglia

AUTORE:Simone Truglia Apri profilo LinkedIn

Simone è un Ingegnere Informatico con specializzazione nei sistemi automatici e con una grande passione per la matematica, la programmazione e l’intelligenza artificiale. Ha lavorato con diverse aziende europee, aiutandole ad acquisire e ad estrarre il massimo valore dai principali dati a loro disposizione.