Di Stefano Barlini, MBA, Advanced in AI Audit, Certified CAIO, CIA, CISA, Certified 31000 Trainer, CCSA, QAR | Internal Audit & GRC Expert presso Compet-e
🤔 L’AI ci sostituirà? O ci estinguerà?
Fino a poco tempo fa il dibattito e le preoccupazioni relative all’Artificial Intelligence sembravano concentrarsi prevalentemente sulla sostituzione del lavoro umano. Più recentemente, il tema si è spostato verso scenari ben più radicali e addirittura apocalittici: la perdita di controllo, i rischi sistemici nelle economie e negli assetti sociali e politici, fino all’estinzione degli esseri umani.
Non è ovviamente necessario discutere qui delle previsioni più catastrofiche legate al fenomeno AI, per comprendere che qualcosa di profondamente diverso sta accadendo o – più realisticamente – è già accaduto.
👉 L’AI è ben dentro le aziende e i processi attraverso cui realizzano la loro mission
L’AI è un prodotto, un servizio, una piattaforma, un agente digitale o un sistema agentico capace di orchestrare e interagire con altri software, dati e risorse, incluse le risorse umane di un’azienda. E’ presente e attraversa qualsiasi processo aziendale, anche quelli tradizionalmente a maggiore intensità di risorse umane.
E se si trova ovunque, vuol dire che porta con sé ovunque dei nuovi e strutturali rischi (per semplicità, i Rischi AI), ovviamente anche all’interno del perimetro 231: l’AI è, infatti, in ultima istanza uno strumento con cui si fanno le cose in azienda. Vi ricordate il concetto di Modalità Realizzativa nei sistemi 231, vero?
✨ La vera domanda, allora, non è più se l’AI fosse già nel perimetro 231. Ma, piuttosto, se il Modello 231, e con esso l’OdV, così come li conosciamo, siano ancora in grado di governare i Rischi di un’organizzazione che utilizza l’AI.
Lasciatemi subito anticipare che
📣 La vecchia ricetta non basta più!
Per 25 anni abbiamo sentito ripetere, con varianti più o meno sofisticate, una ricetta sostanzialmente simile: è stato introdotto un nuovo reato presupposto, allora (tu azienda) devi aggiornare la mappa delle attività sensibili, aggiungere alcuni protocolli di controllo, dei nuovi flussi per l’OdV e adottare una nuova versione del Modello. In questo senso e con l’applicazione della vecchia ricetta, vi ricordate tutti il proliferare delle Parti Speciali?
😱 L’AI ha mandato in frantumi l’approccio 231 tradizionale
Cosa succede allora quando l’AI non è una singola attività sensibile, bensì una tecnologia trasversale che modifica il modo (o le modalità) con cui molte attività (incluse quelle sensibili) vengono oggi svolte in azienda?
Cosa succede quando un cambiamento nei dati, nel comportamento del modello o nelle modalità di interazione con altri sistemi può alterare contemporaneamente il profilo di rischio di diverse attività, tra cui quelle sensibili 231?
Pensiamo a un agente AI che acquisisce informazioni, elabora documenti, interagisce con applicazioni aziendali e supporta decisioni operative. Secondo voi, è davvero sufficiente limitarsi a censire i casi d’uso, assegnargli una riga nella mappa o inventario, dargli un punteggio di rischio e predisporre una policy sul corretto utilizzo dell’AI in azienda? E’ sufficiente raccontare che c’è qualcuno in azienda a cui d’ora in poi è conferito il cappello “human in the loop”?
E se quel sistema producesse un output errato? Se taluni dati di input fossero manipolati? Se un prompt injection ne condizionasse il comportamento? Se una modifica nel mondo reale e nella distribuzione dei dati, incidesse nel tempo sulle prestazioni di un Modello AI e con esso rendesse inefficace un controllo che prima invece funzionava?
Capite ora bene che il problema non è soltanto l’aggiunta operata dall’articolo 25-vicies del Decreto 231 di due nuove fattispecie di reato AI-related nel catalogo dei rischi 231, con tutti i loro elementi costitutivi e gli ulteriori requisiti 231. Il problema è che l’AI si trova già ovunque e rende evidenti – amplificandole in maniera esponenziale – le interconnessioni tra rischi, attività e controlli. Questo non può che decretare la fine dell’approccio 231 tradizionale, invece, basato su una rappresentazione statica e segmentata (“a silos”) delle attività a rischio-reato e dei controlli.
📌 L’AI non è semplicemente un’altra riga della Mappa delle attività sensibili. L’AI cambia e rende finalmente palesi a tutti le relazioni tra le moltissime righe e colonne di quella stessa Mappa!
🤔 E l’OdV? Può ancora vigilare come prima?
Qui arriviamo al punto più delicato.
L’OdV è chiamato a vigilare sul funzionamento e sull’osservanza del Modello e a curarne l’aggiornamento. Ma come può esercitare una vigilanza efficace in un ambiente in cui questa nuova tecnologia accelera incredibilmente i processi – inclusi ovviamente quelli in cui ricadono le attività sensibili – aumenta la quantità di informazioni disponibili, ma rende più rapide, trasversali e gravi anche le conseguenze di un errore o di una debolezza?
Come può un OdV, spesso composto da tre persone che si riuniscono ogni tre mesi, concretamente affrontare e contribuire a ridurre i Rischi AI che si propagano così rapidamente e trasversalmente nel profilo di rischio 231 di un’azienda?