Di Stefano Barlini, MBA, Advanced in AI Audit, Certified CAIO, CIA, CISA, Certified 31000 Trainer, CCSA, QAR | Internal Audit & GRC Expert presso Compet-e
Se oggi dovessi spiegare al tuo amministratore quale framework adottare per gestire i Rischi AI della tua azienda, quale gli proporresti?
ISO 42001?
NIST AI RMF?
EU AI Act?
Un altro framework?
Oppure un mix di tutti?
Benvenuto nel problema
Quando una nuova normativa impatta significativamente sui processi aziendali, la sua applicazione è stata tradizionalmente accompagnata dalla diffusione di framework, standard, linee guida e pratiche professionali.
Più la norma è precisa, più è essa stessa un framework.
Le prime normative sulla privacy, con prescrizioni molto dettagliate sulle misure di sicurezza, ne sono un esempio.
Più invece la norma è astratta e lascia al destinatario il compito di individuare nel proprio contesto rischi e misure adeguate, più cresce la necessità di linee guida, framework e metodologie di supporto. È quello che abbiamo visto ad esempio con il D.Lgs. 231/2001.
Ma con l’AI la situazione diventa molto più difficile.
Il framework è già dentro la norma. Ma solo per ciò che la norma vuole governare
L’EU AI Act porta con sé una propria logica di classificazione e gestione del rischio.
E così abbiamo imparato rapidamente la ricetta:
mappare i sistemi AI → classificare il rischio → applicare le misure previste → garantire supervisione umana → assicurare tracciabilità → formare le persone → monitorare il sistema lungo il ciclo di vita.
Tutto corretto.
Ma c’è un piccolo problema.
Stiamo parlando dei rischi definiti e disciplinati dall’AI Act.
Non necessariamente dei rischi che l’AI genera per la tua azienda.
Un agente AI che cancella un database aziendale.
Un sistema che esfiltra informazioni riservate.
Un modello che degrada progressivamente le proprie prestazioni.
Un sistema che viene manipolato attraverso una prompt injection.
Un’applicazione che produce decisioni operative sbagliate perché i dati hanno subito un data drift.
Sono tutti problemi di AI Governance
Ma non è detto che trovino risposta nel sistema che implementerete per rispondere ai requisiti discendenti dall’AI Act.
E allora la domanda cambia.
Quale framework devo usare per gestire i Rischi AI della mia organizzazione?
Il menù è già lunghissimo e la scelta non manca.
EU AI Act
ISO/IEC 42001
NIST AI Risk Management Framework
ISO/IEC 23894
E poi normative nazionali, ulteriori standard, linee guida, framework settoriali, metodologie dei consulenti, strumenti dei vendor e una quantità crescente di checklist disponibili online.
È come entrare in un ristorante con un menù di 24 pagine.
Il problema non è più trovare qualcosa da mangiare. È capire cosa ordinare
E soprattutto capire se quello che stai ordinando è davvero ciò di cui hai bisogno.
Perché nessuno di questi framework, preso isolatamente, può conoscere il tuo contesto.
Non conosce i tuoi processi.
Non conosce i tuoi obiettivi.
Non conosce le conseguenze che un errore dell’AI potrebbe produrre nella tua organizzazione.
Non conosce le tue dipendenze tecnologiche, i tuoi dati, i tuoi fornitori, le tue persone, i tuoi controlli già esistenti.
E soprattutto non ti può aiutare a decidere quale combinazione di strumenti e pratiche sia proporzionata ai rischi che devi realmente governare.
E con l’AI la scelta è ancora più difficile rispetto al passato
Perché l’AI non è semplicemente un nuovo software.
Un software tradizionale può essere complesso, ma normalmente possiamo definire abbastanza chiaramente cosa deve fare, testarlo, verificarne il comportamento e controllare le modifiche prima di portarlo in produzione.
Con l’AI il comportamento è probabilistico.
Lo stesso input non garantisce necessariamente lo stesso output.
Le prestazioni possono cambiare nel tempo.
I dati del mondo reale possono cambiare.
Il modello può entrare in contatto con dati non previsti.
Un sistema agentico può utilizzare strumenti diversi, interagire con altri sistemi e compiere azioni.
E un attaccante può riuscire a modificare il comportamento del sistema attraverso una prompt injection.
Quello che hai valutato oggi potrebbe quindi non essere esattamente ciò che avrai davanti tra qualche mese, settimana o addirittura giorno!
Il problema quindi non è soltanto “quanto è sicuro questo sistema?”
Ma è anche:
“Quanto posso essere sicuro che continuerà a comportarsi come mi aspetto?”
Questa è una domanda profondamente diversa da quella che abbiamo posto per anni alla tecnologia tradizionale.
Ed è qui che la scelta del framework diventa davvero difficile.
Quindi qual è il framework giusto?
La risposta più onesta è: non esiste un framework universale che possa risolvere il problema al posto tuo.
Esistono framework eccellenti.
Ma devi sapere perché utilizzarli, quali problemi ti aiutano a risolvere, quali rischi coprono e soprattutto quali lasciano scoperti.
Devi essere in grado di partire dal tuo contesto, dai tuoi obiettivi e dai tuoi processi e costruire una risposta proporzionata ai rischi che l’AI introduce per la tua azienda.
Ed è proprio qui che ritorna il problema da cui siamo partiti.
Se non comprendi la tecnologia che hai davanti, puoi scegliere il framework più famoso o la società prestigioso disponibile ma usarlo nel modo sbagliato.
Puoi costruire una bellissima checklist.
Puoi completare tutti i campi.
Puoi produrre un assessment di cinquanta pagine.
E puoi comunque non aver compreso i Rischi AI della tua organizzazione.
Per questo il primo strumento di AI Governance non è una checklist o un framework.
È la competenza di chi deve porsi tutte queste domande nella propria azienda e contesto.
Non puoi delegare questa comprensione al framework. E nemmeno a ChatGPT.
Prima devi capire cosa hai di fronte.
Poi puoi scegliere come governarlo.
È esattamente questa la prospettiva che dovrebbe acquisire oggi chi si occupa di Risk Management, Internal Audit, Compliance, Cybersecurity e IT Governance.
Non diventare un data scientist.
Ma sviluppare una comprensione sufficientemente ampia dell’AI, dei suoi rischi e delle sue implicazioni organizzative per poter scegliere consapevolmente gli strumenti con cui governarla.
È una delle ragioni per cui è stato progettato il percorso Chief Artificial Intelligence Officer Certification programmato a Milano dal 12 al 14 ottobre 2026.