Di Emanuela Gotta, Head of Marketing & Communication | Privacy Manager | UX-oriented Project Manager | Formazione, contenuti e presales per il settore tech & GRC presso Compet-e.
C’è qualcosa di geniale nella scelta dei Daft Punk di intitolare un intero album “Human After All”.
Un paradosso perfetto: due musicisti nascosti dietro caschi robotici che ricordano a tutti che, alla fine, siamo umani. Imperfetti, complessi, imprevedibili.
E se c’è un settore dove questo messaggio dovrebbe risuonare forte — anzi, fortissimo — è quello dell’intelligenza artificiale.
Perché oggi parliamo di modelli che decidono chi assumere, chi merita un prestito, chi può guidare un’auto autonoma, chi deve essere fermato ai controlli.
E ogni volta che premiamo “deploy”, stiamo dicendo al mondo “Fidatevi, abbiamo pensato a tutto”, assumendoci un rischio molto umano: quello di credere che la macchina capisca ciò che sta facendo.
Spoiler: non sempre è vero.
Nell’AI Act c’è un articolo fondamentale — l’art. 14 — che introduce il concetto di human oversight:
un essere umano che non è un soprammobile, ma qualcosa che comprende, verifica, interviene, corregge.
È la versione normativa di ciò che i Daft Punk cantano:
siamo umani, dopo tutto.
E dobbiamo restarlo anche quando usiamo algoritmi che sembrano onniscienti.
Il GDPR l’ha anticipato anni prima con l’art. 22:
le persone hanno diritto a non essere soggette a decisioni basate unicamente su processi automatizzati.
Perché nessuno merita un algoritmo che ti guarda e dice: “Eh, mi spiace, hai la faccia sbagliata”.
E purtroppo questo non è fantascienza.
È cronaca.
Quando l’AI sbaglia “da robot”: storie che sembrano fiction, ma non lo sono
Ogni volta che qualcuno dice: “Ma l’algoritmo è oggettivo!”, in qualche parte del mondo un data scientist sospira.
Ci sono storie che sembrano nate per un film distopico, e invece stanno nei report ufficiali.
Come Amazon, che costruisce un sistema di selezione del personale futuristico, potentissimo, capace di leggere CV come fossero pezzi musicali complessi.
Un’intelligenza artificiale perfetta per trovare i talenti del domani.
Peccato che il modello, dopo mesi di test, inizi a penalizzare tutto ciò che conteneva la parola “women’s”.
Squadre femminili? Penalizzate.
Università frequentate principalmente da donne? Penalizzate.
Anche certe combinazioni di parole considerate “troppo femminili”? Penalizzate.
Non era cattiveria.
Era un semplice errore statistico: i dati storici erano maschili quindi il modello concludeva che “maschio = meglio”.
Bias che più classico non si può.
Risultato: un’AI misogina, senza cattiveria, ma con molta matematica sbilenca.
E poi c’è il caso di Apple Card: marito e moglie con identico patrimonio, identica storia creditizia, ma limiti di credito completamente diversi. Motivo? Non si sa.
Il modello era troppo opaco per capirne le logiche.
La banca si difendeva dicendo: “Non usiamo il genere come variabile”.
Eppure i risultati lo sembravano suggerire e il “human after all” si è trasformato in “human after the complaint”.
O ancora Compass, negli USA, che stimava il “rischio di recidiva” e, guarda caso, tendeva a classificare come più rischiose le persone nere, anche a parità di reati e condizioni.
Un bias così evidente che persino i caschi dei Daft Punk si sarebbero appannati.
Human-in-the-loop: non un optional ma l’autorità di regia
Ogni sistema di AI con impatto significativo dovrebbe avere un “maestro d’orchestra”: qualcuno che capisce la partitura, che non aspetta il blackout per intervenire e che non dica “eh, è colpa del modello”.
Il concetto di human-in-the-loop non è un dettaglio tecnico: è un principio etico.
Perché la vera domanda non è:
“L’algoritmo funziona?”
La vera domanda è:
“L’algoritmo funziona anche per le persone che non assomigliano ai dati storici con cui l’ho addestrato?”
Ed è qui che l’umano diventa indispensabile.
Serve qualcuno capace di dire:
“Sì, la predizione è corretta. Ma l’impatto è sbagliato.”
Oppure:
“Statisticamente funziona, eticamente è un disastro.”
O ancora:
“Questo modello va fermato ora. Non ‘domani mattina’. Ora.”
La decisione finale è nostra. Sempre.
Il vero rischio non è l’AI, è crederci troppo.
Il vero inganno dell’intelligenza artificiale non è la sua complessità, né la sua capacità di elaborare dati a una velocità che nessun essere umano potrebbe eguagliare ma la nostra naturale tendenza a fidarci troppo, troppo presto.
Quando vediamo un modello che dichiara un’accuratezza del 99%, siamo istintivamente portati a rilassarci, ad abbassare la guardia, quasi a considerarne le decisioni come se fossero scolpite nella pietra. Eppure, quell’unico punto percentuale che manca all’appello può riguardare proprio chi è più fragile, più esposto, più vulnerabile. E, soprattutto, ci dimentichiamo spesso che accuratezza non è sinonimo di equità.
L’AI, infatti, non è uno specchio fedele del presente, né tanto meno un riflesso dei valori che vorremmo vedere realizzati: è semplicemente la proiezione dei dati del passato, dei comportamenti già osservati, delle storie raccolte, spesso incomplete, distorte, o imbevute di pregiudizi invisibili.
E allora la domanda davvero da Daft Punk diventa inevitabile: come possiamo rimanere umani, pienamente e consapevolmente umani, quando gli strumenti che utilizziamo non possiedono alcuna capacità di farlo al posto nostro?
È qui che entra in gioco ciò che le norme ci ricordano con insistenza: la necessità di controllare, documentare, conoscere a fondo il modello, testarlo con rigore, valutarne l’impatto sulle persone reali e, se serve, fermarlo senza esitazione quando sta andando nella direzione sbagliata. È un lavoro impegnativo, che richiede metodo, cultura e tempo, ma è l’unico modo per evitare di trasformare la tecnologia in una scorciatoia etica.
Human after all. Sempre.
Alla fine, se si guarda l’intero dibattito con un po’ di distanza, ci si accorge che il messaggio è sorprendentemente semplice, quasi disarmante nella sua evidenza.
L’AI Act, il GDPR, i casi di cronaca come quelli di Amazon o Apple Card, le valutazioni d’impatto, i controlli di trasparenza e di robustezza, i framework di governance… tutto, davvero tutto, converge verso un’unica grande verità: la tecnologia non potrà mai sostituire la responsabilità umana.
Non possiamo esternalizzare il discernimento a un algoritmo, né delegare a una macchina la capacità di giudicare cosa sia giusto o sbagliato. Non basta dire “è la matematica”: la matematica non è mai neutrale quando si traduce in decisioni che riguardano vite reali.
In ogni sistema basato sull’AI, il vero elemento critico siamo noi. Siamo noi il pezzo mancante, il filtro che separa il dato dal significato, la coscienza che interpreta, valuta e, se necessario, dice “no”.
Ed è per questo che ogni volta che introduciamo un modello, che lo facciamo girare, che lo lasciamo prendere decisioni o anche solo suggerirle, dovremmo ricordarci che:
We are human,
human,
human,
human,
after all.