Di Stefano Barlini, MBA, Advanced in AI Audit, Certified CAIO, CIA, CISA, Certified 31000 Trainer, CCSA, QAR | Internal Audit & GRC Expert presso Compet-e
Nel precedente articolo di questa rubrica abbiamo dimostrato che i Rischi AI sono già dentro il perimetro 231. E ciò prima ancora del progettato ampliamento dei reati presupposto che saranno richiamati dal futuro articolo 25-vicies “Reati commessi con l’uso di sistemi di AI”, così come prima ancora dell’aggravante introdotta dalla stessa legge delega 23 settembre 2025, n. 132. Abbiamo, inoltre, anticipato che l’Artificial Intelligence ha già fatto “esplodere”, annichilendolo, uno degli assiomi chiave su cui poggia l’approccio tradizionale nella gestione del rischio 231: la relazione lineare tra rischi e controlli.
Per spiegarlo e dimostrarlo con il presente articolo, prendiamo a prestito da Adam Smith la metafora della “mano invisibile”, con cui egli descrive il funzionamento di un sistema complesso in cui – semplificando molto – i comportamenti dei singoli, apparentemente indipendenti e ciascuno orientato al raggiungimento dei propri obiettivi, finiscono in realtà per produrre effetti complessivi (appunto “effetti sistemici”) che nessuno, individualmente, perseguiva o sarebbe stato capace di produrre da solo.
Qualcosa di molto simile accade all’interno di un’azienda e – per quanto specificamente ci riguarda – anche nel perimetro che un Modello 231 è chiamato a governare: le singole attività sensibili sono apparentemente indipendenti tra loro e ciascun protocollo di controllo posto a loro presidio può sembrare, preso singolarmente, adeguato a governare il rischio associato. Nella realtà, però, le attività sensibili e i relativi protocolli di controllo interagiscono tra loro e con gli altri elementi del “sistema 231”, finendo in taluni casi per produrre effetti complessivi (effetti sistemici) che non sarebbero stati prevedibili osservando separatamente ciascun elemento.
Pensiamo così alla pratica corrente di gestione dei rischi 231 ancora oggi molto diffusa e alla base della gran parte dei Modelli 231 in circolazione:
😦 Mappe delle Attività Sensibili 231 costituite da gigantesche tabelle in cui le singole attività sensibili con i loro vari attributi e i corrispondenti protocolli di controllo sostanzialmente trovano distinta collocazione in una o più delle centinaia di righe e colonne tra loro apparentemente indipendenti e spesso distanti.
Ad esempio, il rischio 231 connesso all’ottenimento e impiego di finanziamenti pubblici è apparentemente ben lontano dal rischio 231 connesso alla gestione delle attività di ricerca e sviluppo. Almeno così sembra, se li proviamo a guardare nelle rispettive righe in cui tali attività sensibili e protocolli sono usualmente “mappati”: troviamo, infatti, in mezzo o insieme alle due, decine, se non centinaia, di righe popolate dalle altre attività sensibili 231 che un’azienda ritiene di poter compiere a proprio vantaggio o interesse in corrispondenza degli oltre 200 reati presupposto 231.
Ma siamo proprio sicuri che esse siano indipendenti?
📌 Un progetto R&D finanziato con risorse pubbliche in cui la pressione per ottenere il finanziamento e poi dimostrare il raggiungimento degli obiettivi potrebbe condizionare anche le modalità con cui l’azienda acquisisce, sviluppa e utilizza la tecnologia e il know-how di terzi, è un semplice esempio di scuola che dimostra, invece, l’esistenza di interdipendenze tra rischi 231, loro cause o fonti, modalità realizzative, contromisure ed ulteriori elementi che nella Mappa delle Attività Sensibili sono oggi pressoché invisibili.
In altri termini, il rischio-reato 231 che può concretamente realizzarsi non è necessariamente riconducibile a una singola attività sensibile o all’inefficace funzionamento di un singolo protocollo di controllo posto a suo presidio, ma può emergere dall’interazione tra più elementi dell’organizzazione e quindi del Modello che, presi singolarmente, non sembrano presentare quella criticità, ma che nel loro insieme possono invece determinarla o renderla possibile.
👉 Un cambiamento in un elemento del sistema può infatti modificare il profilo di un altro rischio apparentemente lontano e indipendente. È quindi evidente che pretendere di fotografare – e soprattutto gestire – i rischi 231 con una mega tabella Excel® di oltre 100 righe e 75 colonne, statica e sostanzialmente illeggibile, è ormai da tempo pura malpractice in quanto incapace di servire il suo vero e unico fine: prevenire i rischi-reato 231.
E cosa c’è di più “invisibile” di ciò che accade dentro un sistema AI?
Se abbiamo appena dimostrato che il rischio invisibile 231 esisteva già anche senza l’AI e non poteva essere visto attraverso l’approccio tradizionale, proviamo ora ad immaginare cosa accade al sistema o Modello 231 con l’avvento di uno strumento – appunto un qualsiasi modello AI – che attraversa trasversalmente praticamente tutte le funzioni e i processi aziendali.
Un cambiamento nei dati, nelle modalità di utilizzo o nel comportamento del modello AI – si pensi, ad esempio, a un concept drift, prompt injection, data poisoning o altri “fenomeni” propri dei modelli AI – può alterare il funzionamento di tali strumenti che l’azienda utilizza e, conseguentemente, modificare anche i rischi 231, ossia l’esposizione delle attività sensibili e/o l’efficacia dei corrispondenti protocolli di controllo, senza che gli utilizzatori della Mappa delle Attività Sensibili – in primis gli OdV – siano in grado di accorgersene.
L’AI non è, e non potrà mai essere, un’altra riga o colonna della Mappa delle Attività Sensibili: in quanto strumento trasversale e diffuso in qualsiasi organizzazione, essa è ciò che può cambiare le relazioni tra tutte le righe e colonne della Mappa, annichilendo definitivamente l’attuale e più diffuso strumento di gestione dei rischi 231.
🤔 O forse c’è qualcuno che crede che per gestire i Rischi AI in ambito 231 sarà sufficiente aggiungere qualche nuova riga e colonna nella mappa delle attività sensibili e adottare un nuovo protocollo di controllo (magari una Policy sull’uso dell’AI)?
Lascio che siate voi a dare a voi stessi la risposta più sincera e vi ringrazio di nuovo per avermi letto fin qui. Ora, però, è il momento di svelarvi il nostro regalo speciale, riservato a chi è già chiamato a gestire i Rischi AI in ambito 231 (e non solo)
🎁 Le prime 12 aziende che ci contatteranno cliccando sul link “CONTATTACI” qui sotto riceveranno uno sconto sulla prima edizione del percorso internazionale CAIO che a breve si terrà in Italia e in italiano. Un’occasione irripetibile per comprendere come l’AI non sia semplicemente un’altra tecnologia, ma una fonte di incertezza che ridisegna il profilo complessivo dei rischi d’impresa.
E consentitemi, infine, di ricordarvi di nuovo che l’idoneità di un Modello 231 richiede sempre più una tecnologia adeguata e, soprattutto, tempo per farla realmente funzionare. Se desiderate scoprire come CORA 231 possa semplificare le vostre attività di compliance ed alzare definitivamente il livello di difesa del Vostro Modello 231, il momento di pianificarlo è adesso.