KPMG withdraws AI report: hallucination and data reliability risk

La cronologia: cosa è successo con il report KPMG

On June 13, 2026, TechCrunch reported che KPMG ha ritirato un report dedicato all’utilizzo dell’intelligenza artificiale nelle organizzazioni. Il motivo ufficiale: apparenti hallucination nei contenuti generati dai modelli impiegati nella ricerca.

Pertanto, dati, statistiche e affermazioni presenti nel documento risultavano potenzialmente non verificabili o direttamente errati. KPMG ha scelto di rimuovere il report dalla circolazione anziché pubblicare una versione corretta. Questa decisione, per quanto coraggiosa sotto il profilo della trasparenza, ha sollevato interrogativi profondi.

Infatti, non si tratta di un’azienda alle prime armi con l’AI. KPMG è uno dei Big Four della consulenza globale. Tuttavia, anche un’organizzazione con risorse tecniche e umane di quel livello ha prodotto un documento compromesso da errori generativi. Di conseguenza, il problema non è di competenza, ma di processo.

Hallucination: una definizione operativa per chi non lavora nell’AI

Hallucinations in language models are statements generated with apparent certainty but lacking any real basis. The model does not consciously lie. It simply produces statistically plausible outputs that may not correspond to the facts.

Questo fenomeno è documentato da anni nella letteratura tecnica. Ad esempio, MIT Technology Review aveva già analizzato in profondità il meccanismo nel 2023. Nonostante ciò, molte organizzazioni continuano a utilizzare output AI senza protocolli di verifica adeguati.

In particolare, il rischio aumenta quando i modelli vengono interrogati su dati quantitativi, statistiche di settore o fonti specifiche. Dunque, il caso KPMG non è anomalo: è la conseguenza prevedibile di un processo di produzione contenuti che non include un layer di fact-checking strutturato.

The winners and losers of this episode

Ogni caso di questo tipo produce una redistribuzione di credibilità nel mercato. Pertanto, vale la pena analizzare chi guadagna e chi perde posizioni dopo l’accaduto.

Who loses: KPMG subisce un danno reputazionale diretto, anche se limitato nel tempo. Oltre a questo, l’intero segmento dei report di ricerca prodotti con AI generativa perde credibilità agli occhi di chi li utilizza come fonte secondaria. Analogamente, i vendor di modelli AI coinvolti — anche se non nominati esplicitamente — vedono accentuarsi le discussioni sulla reliability dei propri sistemi.

Who benefits: le organizzazioni che adottano approcci ibridi — AI assistita da revisione umana esperta — escono rafforzate da episodi come questo. Inoltre, i fornitori di soluzioni di AI governance e audit dei contenuti generativi trovano in questo caso un argomento commerciale potente. In sintesi, la trasparenza di KPMG nel ritirare il report, pur costosa, costruisce un precedente positivo per la gestione delle crisi da AI.

Perché le PMI italiane non possono ignorare questo segnale

Un errore comune è pensare che episodi come questo riguardino solo grandi corporation con budget tecnologici enormi. Al contrario, le PMI sono spesso più esposte perché dispongono di meno risorse per il controllo qualità degli output AI.

Molte imprese italiane di medie dimensioni utilizzano oggi strumenti AI per produrre analisi competitive, report di settore, contenuti di marketing e persino documenti commerciali. Tuttavia, raramente questi output vengono sottoposti a una verifica sistematica prima della distribuzione. Di conseguenza, il rischio di pubblicare o condividere informazioni errate è concreto e sottostimato.

We of SHM Studio osserviamo questa dinamica con regolarità nel lavoro con i nostri clienti. In particolare, il problema emerge con maggiore frequenza nei settori dove i dati di mercato cambiano rapidamente: retail, manifattura, servizi B2B ad alta specializzazione. Perciò, la governance dei contenuti AI non è un tema teorico: è una necessità operativa immediata.

SHM Studio Reading: A Process Architecture Problem

Il caso KPMG non è, nella nostra lettura, un fallimento dell’AI in quanto tecnologia. È un fallimento architetturale del processo che ha portato alla pubblicazione del report. Quindi, la domanda corretta non è «l’AI è affidabile?» ma «il nostro processo di produzione e verifica è adeguato?».

There are at least three levels of control that every organization should incorporate when using generative models to produce content with reputational or decision-making implications. First, verification of the primary sources cited by the model. Next, a layer of human review by experts with specific knowledge of the subject matter. Finally, a formal approval process prior to external distribution.

Questi tre livelli non eliminano il rischio, ma lo riducono significativamente. Inoltre, documentare questo processo protegge l’organizzazione in caso di contestazioni successive. La AI Consulting by SHM Studio includes the design of these operational workflows specifically for Italian B2B contexts.

Implications for those using AI in marketing and communication

Il marketing è uno degli ambiti dove l’adozione di strumenti AI generativi è cresciuta più rapidamente negli ultimi anni. Pertanto, le implicazioni del caso KPMG si estendono direttamente alle funzioni di comunicazione e content marketing delle PMI.

Ad esempio, un’azienda che utilizza AI per produrre SEO copywriting, newsletter o white paper di settore deve considerare che ogni affermazione quantitativa generata automaticamente è potenzialmente a rischio. Allo stesso modo, le analisi competitive prodotte con AI per supportare LinkedIn campaign o Google Ads campaigns richiedono una verifica dei dati prima dell’utilizzo.

Tra l’altro, il tema della credibilità dei contenuti AI sta diventando rilevante anche per il posizionamento organico. Google's guidelines enfatizzano sempre più l’esperienza diretta e l’autorevolezza delle fonti. Di conseguenza, pubblicare contenuti con dati errati generati da AI può danneggiare sia la reputazione che la visibilità organica. Per approfondire, la sezione SEO by SHM Studio addresses these issues specifically in the Italian context.

Quello che nessuno dice: l’AI che parla di sé stessa

C’è un aspetto del caso KPMG che merita una riflessione separata. Il report ritirato riguardava proprio l’utilizzo dell’AI nelle organizzazioni. Quindi, un modello AI ha prodotto informazioni errate su sé stesso — o meglio, sulla propria categoria tecnologica.

Questo non è un dettaglio secondario. Indica che i modelli linguistici hanno difficoltà particolari quando vengono interrogati su dati aggiornati, statistiche di adozione recenti o benchmark di settore in rapida evoluzione. Infatti, i dati di training hanno sempre un cutoff temporale. Pertanto, qualsiasi affermazione quantitativa su fenomeni recenti — come l’adozione AI nel 2025 o nel 2026 — è strutturalmente ad alto rischio di hallucination.

Research such as that conducted by McKinsey on the Global AI Survey mostrano quanto rapidamente cambino i dati di adozione. Dunque, utilizzare un modello AI per citare statistiche su questi stessi trend è un esercizio ad alto rischio senza verifica esterna.

Next moves: what to do now for organizations using AI

L’episodio KPMG suggerisce alcune azioni concrete per le organizzazioni che hanno già integrato strumenti AI nei propri processi. Di seguito, le priorità operative che noi di SHM Studio We recommend this to our B2B partners.

• Audit of existing processes: map where and how generative models are used, with a particular focus on externally distributed content.
• Introduction of a verification layer: Every quantitative or statistical claim produced by AI must be verified against primary sources before publication.
• Internal training: i team che utilizzano AI devono comprendere il meccanismo delle hallucination e sapere quando il rischio è più elevato.
• Process documentation formalizzare il workflow di produzione e revisione protegge l’organizzazione e migliora la qualità nel tempo.
• Technology Partnership Review Evaluate whether the AI vendors used offer grounding tools, source citation, or integrated output verification.

Altresì, vale la pena considerare che le normative europee sull’AI — in particolare l’AI Act — stanno introducendo requisiti di trasparenza e accountability che renderanno questi processi non solo consigliabili ma obbligatori per determinate categorie di utilizzo. Per questo motivo, investire oggi nella governance AI è anche un investimento sulla conformità futura. La sezione digital marketing and the one dedicated to web services di SHM Studio includono consulenza su questi aspetti per le PMI italiane. Per approfondire, è possibile Contact our team to explore other articles on the SHM Studio Blog.