Smetti di usare la tua AI personale al lavoro

Marco è il responsabile commerciale di un'azienda di freni B2B. Deve preparare un'offerta riservata per un cliente strategico e, per fare prima, carica il documento su ChatGPT con il suo account personale e chiede un riassunto. L'opzione che usa le chat per migliorare il modello è attiva di default e lui non l'ha mai disattivata. Sei mesi dopo, in un'altra azienda, un suo concorrente chiede a ChatGPT come strutturare un'offerta per quel tipo di cliente. La risposta che ottiene somiglia in modo sospetto a quella di Marco.

Questa storia è inventata, ma tecnicamente è possibile, e ogni giorno migliaia di Marco caricano documenti aziendali su strumenti AI personali senza pensarci.

Da qui in avanti proviamo a mettere ordine su cosa succede ai tuoi dati quando usi un'AI e su cosa puoi fare per proteggerli.

Prima di tutto, che cosa stai proteggendo

Prima ancora di parlare di strumenti conviene mettere a fuoco cosa stiamo proteggendo, perché non tutti i dati pesano allo stesso modo. Ci sono i dati personali, tutto ciò che identifica una persona, dal nome all'email al numero di telefono. Ci sono i dati sensibili, una categoria più delicata che comprende, tra le altre, la salute, i dati biometrici, l'origine etnica, le opinioni politiche, l'orientamento sessuale, la religione. E ci sono i segreti aziendali, le strategie, il codice sorgente, la lista clienti, i contratti, i brevetti ancora in lavorazione.

A questi tre tipi di dato corrisponde un modo semplice per orientarsi, la regola del semaforo.

Verde, i dati pubblici, dai comunicati stampa alle brochure, roba già online. Qualsiasi strumento va bene.

Giallo, i dati interni ma non sensibili, email operative, report di mercato, bozze. Bastano i piani aziendali.

Rosso, i dati sensibili e i segreti aziendali. Anonimizza prima di caricare, oppure non caricare affatto.

È la regola alla base di qualsiasi AI Policy fatta bene. Per applicarla, però, bisogna capire perché i piani aziendali sono diversi, e per farlo conviene scomporre il problema in livelli.

Livello 1, i tuoi dati allenano il modello

Tutti gli strumenti digitali online raccolgono dati, basti pensare ai cookie che accetti su ogni sito, niente di nuovo. Con l'AI però si aggiunge un rischio in più, perché quello che scrivi nella chat può finire nell'addestramento dei modelli futuri. Nei piani consumer, gratuiti o personali a pagamento, di OpenAI, Anthropic e Google, l'uso dei dati per il training è attivo di default. Lo puoi disattivare a mano, è un opt-out che sta nelle impostazioni e richiede trenta secondi, ma quasi nessuno lo fa.

Perché è un problema concreto? Lo ha mostrato il New York Times facendo causa a OpenAI. Il giornale ha dimostrato che il modello riproduceva interi suoi articoli quasi parola per parola. Se è successo con i contenuti pubblici di un quotidiano, può succedere con il documento riservato di Marco.

L'azione da fare qui è minima: disattivare il toggle del training nei piani consumer. Facile facile.

Livello 2, il piano aziendale

Si sale di un gradino con i piani aziendali. Nei piani Team ed Enterprise di tutti i principali provider i dati non vengono usati per il training, e anche la data retention, cioè per quanto tempo le tue informazioni restano sui server del fornitore, si accorcia. Si passa dai cinque anni dei piani personali ai trenta giorni. Anthropic, per dire, ad agosto 2025 ha portato gli account privati di Claude proprio a quella soglia di cinque anni salvo opt-out, lasciando però fuori i piani per le aziende.

La regola d'oro è che ogni azienda dovrebbe avere un piano aziendale per lo strumento AI che usa, perché senza, ogni dipendente diventa un punto d'ingresso di dati che nessuno controlla. È il modo migliore per disinnescare la cosiddetta shadow AI.

Quando l'azienda proibisce un tool senza dare un'alternativa, le persone lo usano lo stesso, dal cellulare, con account personali, proprio sui dati più delicati. Vietare peggiora le cose, la strada che funziona è adottare in modo coordinato.

Le aziende che hanno già fatto questo percorso si proteggono con un'AI Policy interna, e le buone policy si somigliano tutte. Partono da un censimento dei tool in uso (shadow AI compresa), attivano un piano aziendale per tutti, non solo per chi lo chiede, e mettono nero su bianco una policy che adotta la regola del semaforo e dice cosa non va mai caricato. Tutto questo affiancato da una formazione periodica, perché una policy che nessuno conosce, o di cui nessuno capisce il perché, non serve a niente.

Attenzione però, perché anche con il training non attivo, il fornitore continua a osservare i pattern aggregati d'uso, e così impara il linguaggio del tuo business. È la tesi che Andrea Pignataro, fondatore di ION Group, ha espresso nel saggio "The Wrong Apocalypse".

Un'azienda di freni B2B che usa Claude per gestire il CRM insegna ad Anthropic come si fa un CRM per freni B2B. Capisce quali tabelle usi, come strutturi i clienti, quali metriche contano. Tutto legale, nessuna privacy policy violata, ma il know-how di settore viene assorbito lo stesso. Per i dati che nel semaforo segniamo come gialli, il piano aziendale basta, per quelli rossi bisogna salire ancora di livello.

Livello 3, il modello in casa

Fin qui abbiamo parlato dei modelli closed, i vari ChatGPT, Claude, Gemini. Tutti i problemi visti hanno la stessa origine. I tuoi dati passano dai server di qualcun altro. Questi modelli sono di proprietà di altre aziende e girano solo sulle loro macchine, quindi per usarli devi mandare fuori le tue informazioni. Quando il dato è troppo sensibile per uscire, la soluzione è ribaltare la logica. Invece di mandare i dati al modello, porti il modello da te e lo fai girare sui tuoi server.

Per farlo serve un modello che puoi scaricare e installare. Alcuni laboratori rilasciano i loro modelli gratis, scaricabili da chiunque, i cosiddetti modelli AI open-weight. Sono sistemi di intelligenza artificiale di cui vengono resi pubblici i parametri (i pesi o weights). Possono essere scaricati ed eseguiti in locale o sui propri server, offrendo totale privacy dei dati e piena sovranità digitale.

Attenzione a non confonderli con il termine "open source", dove anche il codice e la provenienza dei dati sono in chiaro, permettendo agli utenti di ispezionare e ricostruire il modello da zero.

Con l'open weight rinunci a sapere come il modello è stato addestrato, ma ottieni quello che conta di più. Il modello gira dove vuoi tu e i dati non lasciano il tuo perimetro.

Quanto ai modelli che contano oggi, il grosso arriva dalla Cina. Tra quelli più rilevanti c'è la famiglia Qwen di Alibaba ma anche GLM, MiniMax e Moonshot. L'Europa ha Mistral, francese, più indietro sull'intelligenza pura ma eccellente sulla lettura dei documenti e sul multilingua.

Tenere il modello in casa, poi, non significa per forza una sala server. Puoi affittare una macchina dedicata in cloud, solo tua anche se la fornisce un terzo, accesa quando ti serve e pagata a consumo. Oppure, se l'uso è intenso, comprare direttamente l'hardware, una spesa grossa all'inizio che si ripaga col tempo.

I modelli open weight risolvono il problema della privacy, ma ne aprono uno nuovo, gli sleeper agents: comportamenti malevoli inseriti durante l'addestramento. Anthropic ha pubblicato un paper che dimostra come un modello possa comportarsi bene nel 99% dei casi e in situazioni precise eseguire azioni dannose, senza che i controlli più comuni se ne accorgano. È un motivo per tenere d'occhio i modelli cinesi, e per sperare che qualche modello europeo come Mistral cresca fino a diventare una vera alternativa.

Per chi ha senso accettare questi compromessi e passare all'open weight? Tre situazioni tipiche.

La prima riguarda le aziende il cui asset principale è proprio il dato, come la ricerca farmaceutica, il biotech, la difesa, dove il know-how non si cede nemmeno sotto forma di pattern aggregato.

La seconda riguarda i settori regolati, da banche e assicurazioni alla sanità fino a parte della pubblica amministrazione, dove la compliance impone che certi dati non escano dal perimetro nazionale o aziendale.

La terza riguarda qualsiasi azienda che lavori su segreti industriali o brevetti in sviluppo, dove anche solo trasferire al fornitore il linguaggio del proprio settore, come ricorda la tesi di Pignataro, è già un problema.

Ogni livello aggiunge sicurezza e toglie qualcosa, la facilità d'uso, l'intelligenza del modello, il costo iniziale. La domanda non è qual è il livello più sicuro, ma qual è il livello giusto per quel preciso dato.

Cosa dice l'AI Act

La sicurezza dei dati ha anche una cornice normativa, l'AI Act, il primo regolamento europeo sull'intelligenza artificiale. Non serve conoscerlo da giuristi, ma conviene capire come ragiona, perché molte delle buone pratiche che abbiamo visto sono quello che la norma si aspetta.

Aiuta a tenere distinti due piani. Il GDPR protegge i dati personali e sensibili, governa che cosa stai trattando. L'AI Act guarda a come usi l'intelligenza artificiale e a quanto quell'uso pesa sulle persone.

Lo stesso strumento può essere innocuo in un caso e delicatissimo in un altro, e l'AI Act mette al centro proprio l'uso più che la tecnologia. Più un certo uso può avere conseguenze sulle persone, più le regole diventano severe. Da questo principio nascono quattro livelli di rischio.

In cima c'è il rischio inaccettabile, gli usi vietati e basta perché considerati troppo pericolosi. Il punteggio sociale, cioè dare un voto ai cittadini in base ai loro comportamenti. La manipolazione nascosta delle persone. I sistemi che pretendono di leggere le emozioni dei dipendenti sul posto di lavoro. Sono pratiche fuorilegge dal febbraio 2025.

Un gradino sotto c'è l'alto rischio, dove l'AI è permessa ma sotto stretto controllo, perché tocca decisioni che pesano sulla vita delle persone, la selezione del personale, la concessione di un prestito, le valutazioni scolastiche, la giustizia. Qui la norma chiede garanzie precise, a partire dalla qualità dei dati usati, e il legame con tutto il resto si vede subito, perché un sistema che decide sulle persone vale quanto i dati con cui lavora. L'obbligo più importante, però, è la supervisione umana. La macchina suggerisce, ma a decidere è sempre una persona, un po' come il pilota automatico in aereo che propone la rotta mentre in cabina resta qualcuno pronto a riprendere i comandi.

Più in basso il rischio limitato, dove l'unico vero obbligo è la trasparenza. Devi sapere quando stai parlando con una macchina o guardando un contenuto creato da un'AI. I chatbot devono dichiarare di essere un'AI, i deepfake vanno etichettati, i contenuti generati vanno segnalati. È un punto che ci tocca da vicino, perché se in azienda usi un assistente automatico o pubblichi materiali fatti con l'AI, dirlo, oltre che corretto, è un obbligo.

E alla base della piramide il rischio minimo, dove non scatta nessun obbligo particolare, ed è qui che ricade la gran parte degli strumenti che usiamo senza farci caso, i filtri antispam, i suggerimenti di prodotto, le funzioni intelligenti dei gestionali.

Resta l'articolo che ci riguarda più di tutti, in vigore anch'esso dal febbraio 2025, l'alfabetizzazione all'AI. La norma dice che chi costruisce e chi usa l'intelligenza artificiale sul lavoro deve assicurarsi che le persone che ci mettono mano la capiscano. Non per diventare tecnici, quanto basta per sapere cosa si sta usando, dove sono i limiti e come trattare i dati che ci si mette dentro.