OpenAI impiega centinaia di lavoratori a contratto che leggono conversazioni reali di ChatGPT e le valutano su una scala da uno a sette. L’obiettivo dichiarato è ridurre risposte eccessivamente compiacenti e comportamenti troppo «umani» del modello.
Le chat vengono anonimizzate, ma l’anonimizzazione non elimina il rischio: se un utente ha scritto dati sensibili — nomi di clienti, numeri di contratto, strategie commerciali — quei contenuti possono comparire nella coda di revisione. L’impostazione che abilita questa raccolta si chiama «Improve the model for everyone» ed è attiva per impostazione predefinita. Per disattivarla bisogna farlo manualmente dalle impostazioni dell’account.
Per chi usa ChatGPT in azienda senza aver verificato questa voce, il rischio non è teorico: riguarda la riservatezza dei dati trattati e, in certi contesti, la conformità al GDPR. La prima cosa da fare questa settimana è controllare l’impostazione su ogni account aziendale attivo.
L’impostazione che quasi nessuno ha disattivato
OpenAI ha centinaia di lavoratori a contratto che leggono conversazioni reali di ChatGPT. Lo ha riportato The Decoder, citando un’inchiesta di 404 Media. Il compito di questi revisori è valutare le risposte del modello su una scala da uno a sette, con l’obiettivo di ridurre la tendenza di ChatGPT a essere troppo compiacente o a imitare comportamenti umani in modo artificioso.
Il punto che riguarda le aziende non è il metodo di addestramento in sé. È che questa raccolta avviene per impostazione predefinita, attraverso un’opzione chiamata «Improve the model for everyone», e che disattivarla richiede un’azione manuale dell’utente. Chi non l’ha mai cercata, quasi certamente ce l’ha ancora attiva.
Anonimizzato non significa sicuro
OpenAI dichiara che le conversazioni vengono anonimizzate prima di essere assegnate ai revisori. Ma l’anonimizzazione rimuove i dati identificativi espliciti — nome utente, indirizzo email — non il contenuto delle chat.
Se un responsabile marketing ha usato ChatGPT per elaborare una proposta commerciale con nomi di clienti, prezzi e condizioni contrattuali, quei dettagli restano nel testo della conversazione. Un revisore umano può leggerli. In un contesto B2B, questo non è un problema astratto: è una potenziale violazione degli obblighi di riservatezza verso i clienti stessi.
Sul fronte normativo, il GDPR — il regolamento europeo sulla protezione dei dati personali — richiede che il trattamento dei dati avvenga su basi giuridiche precise e con misure adeguate. Affidare dati di terzi a uno strumento che li trasmette a revisori umani senza informare i diretti interessati è un’area grigia che molte aziende non hanno ancora valutato. Il tema si inserisce in un quadro più ampio di governance e privacy nell’uso degli strumenti AI, che sta diventando urgente anche per le PMI italiane.
Chi è davvero esposto e chi può stare tranquillo
Non tutti gli utenti di ChatGPT sono nella stessa situazione. Esistono differenze importanti tra i piani:
- Account gratuiti e ChatGPT Plus personali: l’impostazione «Improve the model for everyone» è attiva per default. I dati possono essere usati per l’addestramento e la revisione umana.
- ChatGPT Team e Enterprise: OpenAI dichiara che le conversazioni non vengono usate per addestrare i modelli per impostazione predefinita. Ma «per impostazione predefinita» non significa «mai»: vale la pena verificare i termini del proprio contratto.
- API diretta: chi usa ChatGPT tramite API senza attivare esplicitamente il data training ha condizioni diverse. Anche qui, la lettura dei termini di servizio aggiornati è necessaria.
In sintesi: se in azienda si usa un account gratuito o Plus per attività che toccano dati di clienti o informazioni riservate, il rischio è concreto e immediato.
Tre azioni da fare questa settimana
Non servono consulenze o progetti lunghi. Bastano tre verifiche operative:
- Controllare l’impostazione su ogni account aziendale attivo. In ChatGPT: Impostazioni → Controlli dei dati → «Improve the model for everyone» → disattivare.
- Mappare chi usa ChatGPT in azienda e con quali dati. Spesso l’uso è informale e distribuito: commerciali, assistenti, marketing. Ognuno di loro è un potenziale punto di esposizione.
- Valutare se il piano attuale è adeguato. Se l’uso aziendale è intenso e riguarda dati sensibili, il passaggio a un piano Enterprise con termini contrattuali espliciti è la strada più sicura.
Questo tipo di rischio non nasce da un attacco esterno, ma da un’impostazione attiva per default. È lo stesso schema già visto in altri contesti: come nel caso di Meta Muse Spark, che offriva uno sconto del 95% in cambio della condivisione dei dati per il training. Il meccanismo è diverso, ma la logica è identica: l’utente cede dati senza rendersene conto, perché l’opzione predefinita lavora in silenzio.
Il rischio più sottovalutato: la fiducia dei clienti
Al di là della compliance formale, c’è un rischio reputazionale che le aziende tendono a ignorare. Se un cliente scopre che i suoi dati — anche solo una bozza di proposta o uno scambio di email rielaborato con ChatGPT — sono stati letti da revisori umani di una società terza, la conversazione che ne segue è difficile da gestire.
Il tema della supervisione umana sugli strumenti AI è già al centro del dibattito normativo. Chi si occupa di governance delle API e dei rischi legati agli agenti AI sa che la superficie di esposizione si allarga ogni volta che un nuovo strumento entra nel flusso di lavoro senza una valutazione preliminare. E non riguarda solo gli sviluppatori: riguarda chiunque abbia un account ChatGPT aperto sul browser durante una riunione.
La questione della trasparenza di OpenAI sui propri processi interni è tornata al centro dell’attenzione più volte negli ultimi mesi. Ogni volta, il pattern è lo stesso: la notizia emerge da fonti esterne, non da comunicazioni proattive dell’azienda. Per chi deve prendere decisioni su quali strumenti adottare, questo è un dato di fatto da tenere in conto quanto le funzionalità del prodotto.
Articoli correlati
Scopri altri articoli che approfondiscono temi simili, selezionati per offrirti una visione più completa e stimolante. Ogni contenuto è scelto con cura per arricchire la tua esperienza.
