Di Stefano Barlini, MBA, Advanced in AI Audit, Certified CAIO, CIA, CISA, Certified 31000 Trainer, CCSA, QAR | Internal Audit & GRC Expert presso Compet-e
Ti do una buona notizia: il vero rischio è credere di avere la risposta perché hai trovato una checklist. Scopri come costruire le tue conoscenze per governare i Rischi AI.
Il problema, prima ancora di identificare i Rischi AI, è capire che cosa stiamo chiamando “Rischio AI”.
E non si tratta di una questione semantica.
È il punto da cui dovrebbe partire qualsiasi seria attività di Risk Management, Compliance, Internal Audit o più ampiamente Governance quando deve approcciare questo nuovo “oggetto” (o forse meglio “soggetto”) di nome Artificial Intelligence.
Viviamo, infatti, in un paradosso.
Da una parte, l’AI è ormai entrata a qualsiasi livello nelle aziende: strumenti installati dall’IT, applicazioni SaaS utilizzate dalle funzioni aziendali, sistemi integrati nei processi, modelli sviluppati internamente, funzionalità AI incorporate nei prodotti e servizi.
Dall’altra, non siamo mai stati sommersi da così tante informazioni su come “governare l’AI”: webinar, corsi, framework, standard, norme, checklist, strumenti di AI inventory, assessment and control offerte dai vendor.
Eppure i professionisti GRC che continuano a chiedersi “da dove comincio?” si trovano in una posizione migliore di quelli che credono di avere già la risposta, magari offerta da una AI generativa!
La radice del problema è che generalmente si cerca di rispondere alla domanda sbagliata.
Il Rischio AI non è una nuova riga o casella del Risk Register
Se prendiamo correttamente il concetto di rischio come effetto dell’incertezza sul conseguimento degli obiettivi, l’AI non introduce semplicemente una nuova categoria di rischio da aggiungere a quelle già esistenti.
Introduce una nuova sorgente di incertezza che può modificare il profilo di rischio di tutti i processi, attività e decisioni in cui in qualche modo l’AI interviene, incidendo conseguentemente sui risultati degli stessi.
Un sistema di AI utilizzato nel recruiting, ad esempio, può introdurre rischi di discriminazione o di utilizzo di informazioni personali non pertinenti, ma anche rischi operativi se la qualità delle informazioni utilizzate è inadeguata o se le performance del sistema degradano nel tempo.
Nel marketing può influenzare l’acquisizione o la selezione dei lead.
Nel credito può contribuire a una decisione che implica la valutazione dell’affidabilità di un cliente.
In amministrazione può generare stime o informazioni dove un errore può propagarsi indietro e produrre conseguenze rilevanti sugli stessi processi di business, dai cui dati il modello AI è alimentato.
Infine, il problema non si esaurisce spesso nei soli processi interni: l’AI può essere incorporata in prodotti e servizi e produrre effetti su clienti, dipendenti, cittadini e altri stakeholder apparentemente molto lontani dall’azienda.
I Rischi AI attraversano quindi continuamente e assai rapidamente l’intera organizzazione e vanno ben oltre i suoi “tradizionali confini”
Per questo non sono semplicemente una nuova categoria di rischi IT o Cyber, o peggio, una tipologia aggiuntiva di rischio di compliance.
Sono, invece, una dimensione trasversale con cui dobbiamo “rileggere” e gestire tutti i rischi di un’azienda
E qui arriva la domanda che dovrebbe mettere in difficoltà qualsiasi professionista GRC “consapevole”. Supponiamo che ti chiedano di esprimere una valutazione sui rischi di un determinato sistema AI.
Esattamente su cosa devi esprimere tale valutazione?
- Sul modello AI
- Sul sistema nel quale il modello è inserito
- Sul suo utilizzo nello specifico processo
- Sull’output che produce e sulla base del quale qualcuno (o qualcosa) prenderà una decisione o compirà un’azione
La domanda sembra tecnica e già molto difficile da rispondere, senza neanche considerare la dimensione temporale: infatti, è noto che con l’AI ciò che funziona correttamente oggi, non è detto che funzionerà allo stesso modo domani.
In realtà è una domanda cruciale di governance che spesso è del tutto omessa dalla maggior parte di chi scrive e parla di rischi AI.
Infatti, un modello può essere stato accuratamente testato valutato e tuttavia essere utilizzato all’interno di un sistema non sicuro.
A sua volta, un sistema può essere correttamente progettato in termini di sicurezza e tuttavia essere impiegato in un contesto nel quale le conseguenze del suo utilizzo sono incompatibili con il livello di rischio giudicato accettabile da un’organizzazione.
Oppure ancora, un sistema correttamente progettato e utilizzato nel contesto appropriato può comunque produrre un output che deve essere verificato: una citazione può indicare la fonte senza dimostrare che l’AI l’abbia interpretata correttamente nella specifica operazione; un calcolo può essere matematicamente corretto ma basato su dati o assunzioni non corrette; un agente può eseguire un’azione che non avrebbe dovuto essere autorizzato a compiere.
Quindi: quale controllo intendi verificare? E, soprattutto, quale rischio stai cercando di mitigare?
Se queste domande ti sembrano meno banali di quanto apparissero all’inizio, abbiamo condiviso il problema e trovato una sua prima risposta:
Qualsiasi checklist non potrà aiutarti a risolverlo!
- Censire i sistemi AI
- Classificarli
- Compilare un assessment.
- Identificare quelli “ad alto rischio”
- Associarvi dei controlli
- Verificarne l’efficacia nel tempo
Tutto apparentemente giusto e plausibile. Ma niente di tutto questo significa gestire adeguatamente i Rischi AI.
Anzi, con l’AI l’approccio one size fits all rischia di essere particolarmente fuorviante o in due parole: “molto rischioso”.
Perché il Rischio AI non è una proprietà immutabile del modello o del sistema censita oggi e sempre valida fino ad un eventuale change (come invece avveniva sostanzialmente con i tradizionali rischi IT inerenti l’infrastruttura ICT di un’azienda).
Dipende invece da come in concreto viene utilizzato, in quale processo, per quale obiettivo, con quali dati, con quali autorizzazioni e interazioni, con quale livello di autonomia e con quali conseguenze.
Lo stesso modello può quindi presentare profili di rischio radicalmente differenti a seconda del contesto nel quale viene utilizzato.
E lo stesso output può richiedere livelli di verifica completamente diversi a seconda della decisione che contribuirà a determinare.
La checklist, in altre parole, può diventare una pezza peggiore del buco specie se utilizzata senza aver adeguatamente compreso anzitutto cosa si sta guardando.
Prima di identificare il rischio, devi capire che cosa stai guardando
Questa è probabilmente la sfida più importante per chi oggi si occupa di GRC.
Non sei chiamato a diventare un data scientist. Né devi conoscere ogni dettaglio tecnico di un modello AI.
Devi però essere in grado di comprendere abbastanza l’AI da porre le domande che permettono di collegare:
tecnologia → processo → obiettivi → incertezza → rischio
Devi poter distinguere un problema del modello da un problema del sistema.
Un problema del sistema da un problema del suo utilizzo.
Un problema di funzionamento da un problema di output.
E devi soprattutto riuscire a riportare tutto questo alla domanda fondamentale del Risk Management:
Quale incertezza può compromettere (o favorire) il conseguimento dell’obiettivo?
Solo a quel punto ha senso parlare di identificazione, valutazione e trattamento del rischio.
Solo a quel punto un’attività di audit o assurance può produrre qualcosa di più di una dichiarazione di compliance, magari nella comoda forma di negative assurance.
Perché non puoi identificare ciò che non riconosci.
E non puoi valutare controlli per un rischio che non hai prima compreso.
È da qui che deve partire la formazione sui Rischi AI
Il problema oggi non è la scarsità di informazioni sull’AI e sui rischi che essa pone. È paradossalmente quasi il contrario: è riuscire a distinguere ciò che serve realmente per governarla dal rumore che la circonda.
Per un professionista GRC, la competenza fondamentale non è diventare un esperto di tecnologia.
È acquisire la capacità di comprendere l’AI abbastanza da riconoscere come modifica l’incertezza nei processi e negli obiettivi dell’organizzazione.
E da lì contribuire nella tua azienda a costruire una governance realmente multidisciplinare, capace di coinvolgere strategia, operations, information technology, risk management, audit, compliance e sicurezza.
Perché l’AI Governance non comincia dal censimento. Comincia dalla comprensione.
E se oggi ti chiedono di valutare i rischi AI e non sai esattamente da dove partire, forse non sei indietro. Forse sei più avanti di molti altri, perché sei già consapevole che una checklist preconfezionata non ti potrà aiutare.
Ad ottobre per la prima volta arriva il percorso CAIO in Italia e in italiano
Il Chief Artificial Intelligence Officer Certification, dal 12 al 14 ottobre 2026 a Milano, è pensato proprio per costruire questa consapevolezza: comprendere l’AI, i rischi che essa pone e le implicazioni organizzative per trasformare questa comprensione in capacità concreta di governance.