Di Stefano Barlini, MBA, Advanced in AI Audit, Certified CAIO, CIA, CISA, Certified 31000 Trainer, CCSA, QAR | Internal Audit & GRC Expert presso Compet-e
Bias, allucinazioni, prompt injection, model inversion, data leakage, data drift. Sono i nuovi rischi AI. Ma siamo sicuri che il problema sia tutto qui?
L’AI è ormai dappertutto: è sui titoli dei giornali, nei post di LinkedIn, nei webinar, nelle conferenze, nei prodotti che utilizziamo ogni giorno.
Ed è, naturalmente, anche nelle aziende. Dentro i processi, dentro le applicazioni, dentro i prodotti e sempre più spesso dentro le decisioni.
E se l’AI è dappertutto, porta con sé anche i suoi rischi specifici e strutturali.
Il bias che altera una decisione.
L’allucinazione che produce un’informazione falsa ma apparentemente plausibile.
La prompt injection che induce un sistema a comportarsi diversamente da quanto previsto.
Il data leakage che espone informazioni.
Il model inversion che può consentire di ricavare informazioni sensibili dal comportamento di un modello.
Il data drift che modifica nel tempo la qualità delle predizioni.
Rischi nuovi, o comunque con caratteristiche nuove, che le organizzazioni sono chiamate a comprendere e gestire perché l’AI non è più fuori dall’azienda: il rischio è già dentro i suoi processi.
Ma c’è un problema di cui si parla molto meno.
L’AI non sostituisce lo stack. Ci si aggiunge.
Un sistema AI non vive nel vuoto.
Dietro ciò che l’utente vede attraverso una semplice interfaccia ci sono applicazioni, API, identità, autorizzazioni, dati, reti, sistemi operativi, infrastrutture cloud o on-premise, fino ad arrivare al layer fisico dei server sui quali tutto questo gira.
L’AI si inserisce in questo stack. Non lo sostituisce.
E allora una domanda diventa inevitabile:
Pensiamo davvero che, quando parliamo di Rischi AI, tutti i rischi IT sottostanti siano improvvisamente spariti?
Il server continua ad avere bisogno di patch.
Le identità continuano ad avere bisogno di essere governate.
Gli accessi continuano a dover essere autorizzati.
Le modifiche continuano a dover essere controllate.
I dati continuano a dover essere protetti.
Le configurazioni continuano a poter essere sbagliate.
I fornitori continuano a poter rappresentare una dipendenza critica.
E i processi IT continuano a poter fallire.
Avete presente, per esempio, tutti quei controlli sul change management che abbiamo imparato a conoscere, applicare e testare negli anni?
Pensate davvero che l’introduzione dell’AI li renda meno importanti?
Anzi. L’AI può stressare tutto il sistema
Qui sta, secondo me, uno dei punti più sottovalutati dell’AI Risk Management.
L’AI introduce nuovi rischi sopra i rischi IT esistenti, ma può anche modificare il modo in cui quei rischi si manifestano.
E può diventare a sua volta uno strumento nelle mani di chi vuole sfruttare vulnerabilità già esistenti.
Non è un caso che alcune delle notizie di cronaca più recenti vengano raccontate come “truffe con l’AI”.
Ma proviamo a togliere per un momento l’etichetta AI.
Che cosa rimane?
Una comunicazione fraudolenta proveniente da un canale apparentemente legittimo.
Un’identità che non è stata verificata adeguatamente.
Un processo di autorizzazione che non ha intercettato l’anomalia.
Un dispositivo o un canale di comunicazione privato utilizzato per impartire istruzioni operative aziendali.
Un controllo che avrebbe dovuto impedire che una richiesta non adeguatamente verificata producesse una conseguenza finanziaria.
In un caso recente, dati di clienti sono stati ottenuti attraverso richieste fraudolente provenienti da una casella istituzionale compromessa: l’AI non era necessaria per creare la vulnerabilità fondamentale.
In un altro caso, una sofisticata frode ha utilizzato messaggi e una voce clonata con l’AI per rendere più credibile l’impersonificazione di persone reali. Ma la conseguenza finale è stata possibile perché una comunicazione in un canale privato è diventata, nel processo aziendale, un presupposto per autorizzare operazioni finanziarie di enorme valore.
L’AI ha contribuito all’attacco. Ma il rischio non era soltanto “AI”.
Ed è proprio questo il punto.
L’AI è un nuovo rischio. Ma anche un nuovo moltiplicatore.
Possiamo continuare ad aggiungere nuove categorie al nostro catalogo:
AI bias.
AI hallucination.
AI security.
AI privacy.
AI compliance.
AI Act.
Oppure possiamo fare un passo indietro e porci una domanda più importante:
che cosa succede ai rischi che già conoscevamo – i cari Rischi IT – nel momento in cui l’AI entra nei nostri processi e nei nostri sistemi?
La risposta non può essere semplicemente: “aggiungiamo una checklist AI”.
Perché il rischio AI non è confinato al modello.
È nell’interazione tra AI, dati, tecnologia, persone, processi, obiettivi e controlli.
E questo significa che chi si occupa di Risk Management, Internal Audit, Compliance, Cybersecurity o IT Governance deve tornare a guardare l’intero sistema, non soltanto la nuova tecnologia che vi è stata inserita.
COBIT, NIST, ISO e gli altri framework o standard che abbiamo costruito e applicato negli anni non sono diventati improvvisamente inutili.
Al contrario.
Con l’AI, la disciplina del governo dell’IT torna a essere ancora più importante.
Ma non basta neppure quella.
Perché dobbiamo comprendere anche ciò che l’AI aggiunge: non determinismo, autonomia, capacità generativa, nuovi vettori di attacco, nuove modalità di errore e nuove forme di dipendenza dai dati e dai modelli.
E quindi da dove si parte?
Non dall’ultimo post sul red teaming.
Non dall’ennesima checklist.
Non da chi promette soluzioni facili a problemi complessi.
Si parte dalla comprensione.
Per prevenire i Rischi AI devi prima essere in grado di riconoscerli.
E per riconoscerli devi comprenderne la natura, la relazione con i processi aziendali e l’interazione con i rischi che già conosci.
Solo dopo puoi decidere quali controlli applicare, quali framework utilizzare, quali assessment eseguire e dove investire.
È questa la ragione per cui, oggi, la formazione sull’AI Governance non può limitarsi alla tecnologia o alla normativa.
Serve una visione sufficientemente ampia da comprendere l’intero spettro dei rischi AI e il modo in cui questi si innestano nel contesto organizzativo esistente.
È esattamente l’approccio alla base del percorso Chief Artificial Intelligence Officer Certification: costruire le fondamenta necessarie per comprendere AI, rischi, governance, controlli e implicazioni organizzative e trasformare questa comprensione in capacità concreta di governo.
Perché l’AI non ha cancellato i vecchi rischi.
Ha reso ancora più importante sapere come riconoscerli tutti.
E soprattutto sapere quali nuovi rischi l’AI ha aggiunto al sistema.
Ad ottobre per la prima volta arriva il percorso CAIO in Italia e in italiano
Il Chief Artificial Intelligence Officer Certification, dal 12 al 14 ottobre 2026 a Milano, è pensato proprio per costruire questa consapevolezza: comprendere l’AI, i rischi che essa pone e le implicazioni organizzative per trasformare questa comprensione in capacità concreta di governance.
Scopri il programma completo del percorso Chief Artificial Intelligence Officer e preparati a guidare la governance dell’AI nella tua azienda: https://www.e-compliance.academy/chief-artificial-intelligence-officer-milano/