OpenAI impiega centinaia di lavoratori a contratto per leggere conversazioni reali di ChatGPT e valutarle. L’obiettivo dichiarato è ridurre comportamenti eccessivamente compiacenti del modello. Il problema è che l’impostazione che consente questa revisione è attiva per impostazione predefinita su tutti gli account.
I prompt vengono anonimizzati, ma l’anonimizzazione non elimina il rischio: una conversazione può contenere dettagli su clienti, fornitori, strategie interne o dati personali che rimangono leggibili anche senza nome e cognome in testa al testo.
Se la tua azienda opera in settori regolati — sanità, finanza, legale, HR — o gestisce dati coperti da accordi di riservatezza, devi verificare questa impostazione oggi. Non è un problema tecnico: è un problema di compliance e di fiducia verso i tuoi clienti.
Cosa succede davvero quando mandi un prompt a ChatGPT
Secondo quanto riportato da The Decoder, OpenAI ha centinaia di contractor — lavoratori a contratto, non dipendenti — che leggono conversazioni reali degli utenti e le valutano su una scala da uno a sette. Il lavoro serve ad addestrare il modello a essere meno adulatorio e meno «umano» nel senso sbagliato del termine.
Quello che conta per chi usa ChatGPT in azienda è un dettaglio preciso: l’impostazione «Improve the model for everyone» — migliora il modello per tutti — è attiva per impostazione predefinita. Finché non la disattivi, le tue conversazioni possono essere lette da persone fisiche.
Anonimizzato non basta: il rischio reale per le PMI
OpenAI anonimizza i prompt prima di passarli ai revisori. Ma anonimizzare non significa rendere innocuo un testo. Una conversazione in cui chiedi di riassumere un contratto con un cliente, di analizzare dati di fatturato o di redigere una risposta a un reclamo contiene informazioni sensibili anche senza il nome della persona in cima alla pagina.
Chi è davvero esposto:
- Studi legali e consulenti che usano ChatGPT per bozze di atti o pareri
- Uffici HR che elaborano testi su valutazioni, licenziamenti, stipendi
- Aziende sanitarie o farmaceutiche con dati su pazienti o sperimentazioni
- Commercialisti e CFO che incollano estratti di bilancio o proiezioni finanziarie
- Chiunque abbia firmato NDA con clienti e usi ChatGPT per lavorare su quei progetti
Il tema non è nuovo: abbiamo già analizzato cosa leggono davvero i contractor di ChatGPT e come funziona il processo di revisione. La novità di oggi è la conferma della scala del fenomeno: non uno o dieci revisori, ma centinaia.
Come disattivare la revisione umana: tre passi
La procedura è semplice. Il problema è che quasi nessuno la conosce.
- Accedi alle impostazioni del tuo account ChatGPT (icona in basso a sinistra sul desktop, o menu profilo su mobile)
- Vai su «Data controls» — controlli sui dati — nella sezione impostazioni
- Disattiva «Improve the model for everyone»: l’interruttore deve diventare grigio
Fatto questo, le tue conversazioni non vengono usate per addestrare il modello e non vengono assegnate a revisori umani. Attenzione: questa impostazione va verificata su ogni account aziendale separatamente. Se la tua azienda ha più utenti su ChatGPT, ogni persona deve fare questa operazione sul proprio profilo.
Chi usa ChatGPT Enterprise — la versione a pagamento per le aziende — ha già questa protezione attiva per contratto. Ma chi usa l’account gratuito o il piano Plus individuale no.
Il quadro più ampio: governance AI e dati aziendali
Questa vicenda si inserisce in un problema più strutturale. Le aziende adottano strumenti AI velocemente, spesso senza una policy chiara su quali dati possono essere condivisi con servizi esterni. Il rischio non è solo normativo — GDPR, NIS2, regolamenti di settore — ma anche contrattuale e reputazionale.
Non è un caso isolato. Abbiamo visto come Meta offra sconti del 95% in cambio della condivisione dei dati per il training: modelli diversi, stesso principio. I dati che produci usando uno strumento AI gratuito o semi-gratuito hanno un valore, e quel valore viene estratto in qualche forma.
Sul fronte della governance degli agenti AI — i sistemi che agiscono in autonomia per conto dell’utente — il problema si amplifica ulteriormente. Ne abbiamo parlato analizzando i rischi concreti per chi usa API AI e cosa cambia per la governance quando gli agenti operano fuori dal controllo diretto.
Il tema della regolamentazione, privacy e governance AI sta diventando operativo, non solo teorico. Non si tratta più di aspettare linee guida europee: si tratta di decidere oggi quali dati entrano in quali strumenti.
Errori da evitare nei prossimi giorni
Disattivare l’impostazione è il primo passo, ma non basta da solo. Gli errori più comuni che SHM Studio vede nelle aziende che affrontano questo problema:
- Pensare che basti farlo una volta: se aggiungi nuovi utenti o account, l’impostazione torna attiva per default
- Confondere ChatGPT con ChatGPT Enterprise: sono prodotti diversi con termini di servizio diversi
- Non aggiornare le policy interne: disattivare l’impostazione senza comunicarlo ai colleghi non risolve il problema culturale
- Ignorare gli altri strumenti AI in uso: ChatGPT non è l’unico servizio con impostazioni simili; vale la pena fare lo stesso controllo su Copilot, Gemini e altri tool adottati in azienda
La domanda da fare al proprio team questa settimana è semplice: sappiamo quali dati aziendali stanno entrando in quali strumenti AI, e con quali impostazioni?
Articoli correlati
Scopri altri articoli che approfondiscono temi simili, selezionati per offrirti una visione più completa e stimolante. Ogni contenuto è scelto con cura per arricchire la tua esperienza.
