AI generativa in azienda: cosa puoi incollare in un chatbot e cosa no

La settimana scorsa abbiamo parlato di shadow IT: gli strumenti che le persone usano per lavorare senza che l'azienda li abbia scelti. L'AI generativa è il capitolo che in due anni è cresciuto più in fretta di tutti gli altri messi insieme, e ha una particolarità che lo rende diverso: non sposta un file da qualche parte, copia un pezzo di azienda dentro un servizio esterno, un incolla alla volta, senza lasciare da nessuna parte niente che assomigli a una traccia.

Mettiamo subito le mani avanti su una cosa, perché è la premessa di tutto il resto: l'obiettivo non è vietare. Questi strumenti fanno risparmiare ore vere su lavori veri, e un'azienda che li mette al bando ottiene esattamente il risultato di sempre — le persone continuano a usarli, ma dal telefono personale e senza dirlo. Serve invece che chi li usa sappia distinguere cosa può uscire e cosa no. È una distinzione che si impara in cinque minuti, e questo articolo serve a farla.

Cosa succede al testo dopo che premi Invio

Il primo malinteso da smontare è di natura tecnica. Quando si scrive in un chatbot non sta succedendo quello che sembra: non c'è un programma sul computer che elabora il testo in locale. Il contenuto viene trasmesso ai server del fornitore, elaborato lì e rispedito indietro. Fin qui, in sé, non è diverso da qualunque servizio cloud. La differenza sta in cosa succede dopo, e sono tre cose:

• Resta scritto nella cronologia. La conversazione viene conservata sull'account di chi l'ha aperta, spesso a tempo indeterminato e per impostazione predefinita. Se quell'account è personale, il contenuto è finito in uno spazio che l'azienda non controlla, esattamente come i file su un Drive privato.
• Può essere usato per addestrare il modello. È il punto che genera più confusione, quindi diciamolo con precisione: dipende dal piano e dalle impostazioni, non dal fornitore. Nei piani gratuiti e personali l'uso dei contenuti per il miglioramento del servizio è tipicamente attivo salvo disattivazione manuale; nei piani business è normalmente escluso per contratto. Nessuno tirerà mai fuori il tuo contratto parola per parola dalla risposta data a un altro utente — non è così che funziona — ma resta il fatto sostanziale: quel testo è uscito dall'azienda ed è entrato in un processo su cui l'azienda non ha voce.
• Può essere letto da una persona. Tutti i fornitori seri prevedono una revisione umana su un campione di conversazioni, per sicurezza e qualità. È legittimo, è scritto nelle condizioni, ed è la ragione per cui incollare una password in una chat non è un gesto neutro.

La regola mentale che funziona meglio è anche la più cruda: quello che incolli in un chatbot lo stai inviando fuori. Non lo stai «scrivendo su un programma»: lo stai mandando a qualcuno.

C'è poi una quarta strada, meno raccontata delle altre e nella pratica più concreta: l'account stesso. Un profilo personale su un servizio di AI ha in genere una password riusata e nessun secondo fattore — vale tutto quello che ci siamo detti sulla password che usi da otto anni. Se quell'account viene violato, chi entra non trova «un chatbot»: trova mesi di conversazioni di lavoro, cioè un riassunto ordinato e leggibile di come funziona l'azienda, con dentro nomi, cifre e testi originali.

Consumer e business non sono la stessa cosa

È la distinzione più importante dell'articolo, e nella maggior parte delle aziende non l'ha mai spiegata nessuno — anche perché lo strumento, a schermo, sembra identico. Ma sotto cambia tutto.

• Account personale (gratuito o a pagamento privato). È intestato alla persona, non all'impresa. L'azienda non sa che esiste, non può vedere cosa contiene, non può cancellarlo e non può revocarlo il giorno in cui quella persona se ne va. Le condizioni d'uso sono state accettate da un individuo per sé, e non c'è nessun accordo che leghi il fornitore all'azienda.
• Account aziendale (piano business del fornitore, oppure gli strumenti AI già compresi in Microsoft 365). È intestato all'impresa. I contenuti sono normalmente esclusi dall'addestramento per contratto, esiste un accordo che inquadra il fornitore come responsabile del trattamento, l'accesso si governa dall'utenza aziendale — quindi si toglie in un secondo insieme a tutte le altre — e per i dati europei si può ragionare su dove vengono elaborati. Con Copilot dentro Microsoft 365, in più, l'assistente lavora sui documenti già presenti nel tenant rispettando i permessi che ciascuno ha di suo: nessuno vede attraverso l'AI file che non potrebbe aprire comunque.

La differenza pratica si vede meglio con un esempio. Lo stesso preventivo incollato nei due contesti produce due situazioni molto diverse: nel primo caso l'azienda non sa che è successo, non sa dove sia finito e non ha nessuno a cui chiedere conto; nel secondo è un dato aziendale trattato da un fornitore aziendale sotto un contratto aziendale. Il gesto della persona è identico. La posizione dell'impresa no.

Vale la pena aggiungere una cosa che si dimentica sempre: nella maggior parte delle PMI la licenza business c'è già ed è compresa in abbonamenti che l'azienda paga da anni senza sapere cosa contengano — è lo stesso fenomeno delle funzioni di Microsoft 365 che paghi e non usi. Prima di comprare qualcosa, conviene guardare cosa c'è già dentro.

I quattro tipi di dato da non incollare mai

Qui non serve un regolamento di otto pagine: servono quattro categorie che una persona ricorda anche dopo sei mesi. Valgono sempre, e valgono a maggior ragione su un account personale.

• 1. Dati personali di terzi. Nomi e cognomi di clienti, indirizzi, numeri di telefono, email, codici fiscali, dati sanitari, curriculum e valutazioni del personale. È la categoria più violata di tutte, quasi sempre per distrazione: si incolla una mail «così com'è» per farsela riscrivere, e dentro c'è la firma del cliente con tutti i suoi recapiti. Il punto è che quei dati non sono nostri: ce li ha affidati qualcun altro, e non gli abbiamo mai detto che sarebbero passati di lì.
• 2. Credenziali e chiavi di accesso. Password, token, stringhe di connessione, chiavi API, file di configurazione con dentro le credenziali. Capita quasi sempre nella stessa identica scena: si incolla un errore per farselo spiegare, e nel messaggio d'errore c'è la stringa completa. Una credenziale incollata va considerata compromessa e va cambiata, non «tenuta d'occhio».
• 3. Contratti, listini e segreti commerciali. Condizioni economiche, marginalità, offerte in corso di trattativa, accordi di riservatezza, strategie, verbali. Attenzione a un dettaglio che sfugge: molti di questi documenti sono coperti da clausole di riservatezza firmate dall'azienda, che vietano la comunicazione a terzi. Un fornitore esterno di AI è, sul piano contrattuale, un terzo.
• 4. Codice e materiale proprietario. Sorgenti su cui l'azienda ha investito, configurazioni di rete e di sicurezza, schemi di impianto, progetti, disegni tecnici. Una configurazione di firewall incollata per chiedere aiuto è, letta bene, una mappa di dove passare per entrare.

La buona notizia è che nel 90% dei casi non serve rinunciare al risultato: serve anonimizzare prima. «Riscrivi questa mail per un cliente del settore edile che ha lamentato un ritardo di consegna» ottiene esattamente lo stesso testo che si otterrebbe partendo dalla mail originale con nome, indirizzo e numero d'ordine — solo, senza far uscire niente. Vale la stessa cosa per i numeri: si sostituiscono con valori di comodo, e si rimettono quelli veri nel documento finale.

La regola in cinque righe da girare al personale

Le policy lunghe non le legge nessuno. Questa sta in un messaggio ed è già pronta da inoltrare così com'è:

1. Per il lavoro usa solo l'AI con l'account aziendale, mai quello personale.
2. Prima di incollare, togli nomi, recapiti e numeri veri: descrivi il caso, non riportarlo.
3. Non incollare mai password, chiavi o messaggi d'errore che le contengono.
4. Contratti, listini e progetti non escono: chiedi aiuto sul metodo, non sul documento.
5. Quello che ti risponde va riletto e verificato: la responsabilità di ciò che invii resta tua.

L'ultimo punto è quello che in genere si sottovaluta di più, e non è una questione di sicurezza ma di lavoro fatto bene. Questi strumenti producono testi sicuri di sé anche quando il contenuto è sbagliato: inventano un riferimento normativo, sbagliano un calcolo, si perdono una condizione dentro un contratto lungo. Va benissimo usarli per la prima stesura, la sintesi, la traduzione, la riformulazione. Non vanno usati come fonte, e non vanno usati per decidere: la firma sotto resta di una persona.

Due righe su GDPR e AI Act (senza allarmismi)

Il quadro normativo, per una PMI che usa questi strumenti in ufficio, si riassume più semplicemente di come viene raccontato.

Sul GDPR non c'è niente di nuovo da imparare: se in quel testo ci sono dati personali, incollarli in un servizio esterno è un trattamento come tutti gli altri. Vuol dire che quel fornitore va inquadrato come responsabile del trattamento con un contratto, che lo strumento va scritto nel registro dei trattamenti, e che la base giuridica deve reggere. Con un account aziendale sono adempimenti ordinari, che si fanno una volta. Con account personali non sono nemmeno possibili — è lo stesso vuoto che avevamo visto per gli studi professionali e il GDPR, solo con dentro molti più dati e molta più velocità.

Sull'AI Act, la sostanza per la stragrande maggioranza delle imprese è questa: usare un assistente conversazionale per riscrivere una mail o riassumere un documento ricade negli usi a rischio minimo, dove non scattano obblighi particolari. Gli obblighi seri riguardano chi sviluppa questi sistemi e chi li impiega in ambiti delicati — selezione del personale, valutazione dell'affidabilità creditizia, gestione di infrastrutture critiche. C'è però un obbligo trasversale che riguarda tutti ed è già in vigore: l'alfabetizzazione del personale, cioè assicurarsi che chi usa questi strumenti abbia una formazione adeguata. Cinque righe inoltrate in chat, per quanto utili, non sono formazione: un incontro di un'ora, verbalizzato, sì. Per chi rientra nel perimetro NIS2 vale in più il ragionamento sugli asset: uno strumento in uso e non censito è, anche qui, un asset non governato.

Cosa fare, in pratica, questa settimana

L'ordine è lo stesso di sempre — prima si dà l'alternativa, poi si stringe — e sta in quattro mosse brevi:

• Guarda cosa hai già. Nella maggior parte dei casi gli abbonamenti in essere comprendono già una soluzione AI aziendale utilizzabile domani mattina. Verificarlo costa mezz'ora e spesso chiude la questione senza spendere nulla.
• Dai a tutti un account aziendale e dillo esplicitamente. Finché l'unica opzione è quella personale, sarà quella personale. E va detto ad alta voce che l'uso è consentito: molte persone oggi lo fanno di nascosto, il che significa che quando sbagliano non lo segnalano.
• Fai l'ora di formazione. Le quattro categorie, gli esempi presi dal lavoro vero di quel reparto, la prova pratica di anonimizzare una mail prima di incollarla. Un'ora, con l'elenco dei presenti.
• Metti per iscritto una pagina. Quali strumenti sono ammessi, cosa non esce mai, chi contattare per averne uno nuovo e in quanto tempo si ha risposta. Senza l'ultimo punto, la scorciatoia resta l'unica strada praticabile.

E una nota su cosa fare se il dato è già uscito, perché succede: niente processi a nessuno. Se erano credenziali si cambiano subito. Se erano dati personali si valuta se sia un incidente da gestire, con la stessa lucidità dei primi 30 minuti dopo un data breach. E si cancella la conversazione dalla cronologia, sapendo che è una mitigazione parziale e non un annullamento.

In sintesi

L'AI generativa in azienda non è un problema da vietare né una moda da assecondare: è uno strumento di lavoro potente, che ha una caratteristica scomoda — funziona meglio quanto più contesto gli dai, e il contesto della tua azienda è esattamente ciò che non dovrebbe uscirne. Tenere insieme le due cose non richiede un progetto: richiede l'account giusto, quattro categorie da ricordare e l'abitudine a descrivere il caso invece di incollare il documento.

Il costo di non farlo, come per tutto lo shadow IT, si paga in differita: nel giorno in cui bisogna spiegare dove sono finiti dei dati e non si sa rispondere, o in quello in cui un'offerta ancora riservata era già uscita da mesi, un incolla alla volta.

Chiuso il mese sull'igiene digitale, martedì prossimo si torna con i piedi per terra e le mani sull'hardware: il PC lento, quando conviene ripararlo e quando è più onesto sostituirlo.

Vuoi capire quali strumenti di AI si stanno già usando nella tua azienda e quale hai già pagato senza saperlo? Contattaci: verifichiamo cosa è compreso nelle tue licenze, attiviamo gli account aziendali e facciamo l'ora di formazione al personale. Senza vietare quello che non hai ancora sostituito.

Articoli collegati: Shadow IT: il lavoro che sfugge all'azienda · Perché serve un password manager · Microsoft 365: 5 funzioni che paghi e non usi