Di Tonio Di Domenico, Head of Diligent Solutions presso Compet-e
“I Robot è la storia dell’ascesa delle macchine e del declino dell’uomo che, paradossalmente coincide con la scoperta della ruota da parte di quest’ultimo… È anche l’avvertimento che il suo breve dominio su questo pianeta sta probabilmente per finire, perché l’uomo ha cercato di creare il robot a sua immagine e somiglianza.”
Questa è la traduzione delle note interne della copertina dell’LP ‘I Robot’ di The Alan Parsons Projects (1977). Ai più non sfuggirà il richiamo alla celebre antologia asimoviana a cui il disco è liberamente ispirato e privato della virgola per motivi di copyright.
È fin troppo ovvio usare questo bellissimo concept album per parlare dei rischi odierni connessi allo sviluppo tumultuoso dell’intelligenza artificiale (AI). Le minacce più immediate relative all’AI che percepiamo oggigiorno sono soprattutto di tipo economico (es. perdita di posti di lavoro), politico (es. controllo dell’informazione e del consenso), sociale (es. aumento di pregiudizi e disuguaglianze, perdita della privacy).
Ma il disco in questione festeggerà il mezzo secolo nel 2027 mentre le storie di Asimov sono state scritte tra gli anni 40 e 50 del secolo scorso. Tale collocazione nel passato ne influenza la poetica e quindi la paura (il rischio, la minaccia) che si ritrova in I Robot è prevalentemente incentrata sul rapporto tra l’uomo e la macchina. Una paura di tipo relazionale ed esistenziale.
Non voglio essere come te
Il primo brano cantato del disco I Wouldn’t Want to Be Like You è emblematico. Sembra esserci un rifiuto da parte dell’uomo verso il robot, quasi un senso di fastidio e di superiorità:
If I had a mind to I wouldn’t want to think like you; and if I had time to I wouldn’t want to talk to you – Se avessi voglia, non vorrei pensare come te, e se avessi tempo, non vorrei parlare con te.
Ma a ben vedere l’affermazione potrebbe essere perfettamente ribaltata (se il robot avesse una coscienza…).
Si dice che quando Alan Parsons ed Eric Woolfson composero il disco lo abbiano scritto esattamente in questo modo: l’uno pensava che fosse l’uomo a parlare del robot e l’altro l’esatto contrario e tutto si teneva perfettamente insieme.
Questo gioco di riflessione nello specchio tra uomo e macchina continua nel successivo Some other time. Chi controlla chi? È l’AI che viene sviluppata copiando il modo di pensare dell’uomo? Oppure l’uomo smetterà di pensare ed userà il robot per farlo?
Could it be that somebody else is looking into my mind
(Potrebbe essere che qualcun altro stia leggendo nella mia mente)
Like a mirror held before me … and the image is reflected back to the other side
(Come uno specchio posto davanti a me… e l’immagine viene riflessa dall’altra parte)
Errare humanum est (sed etiam roboticum)
Oggi parliamo di allucinazioni e degli errori che l’AI può commettere. Anche Parsons e Woolfson pensarono a questo rischio nel brano When I break down.
Di nuovo esiste una simmetria dove la “paura di sbagliare del robot” potrebbe essere benissimo quella dell’essere umano che l’ha creato:
When I break down just a little and lose my head, nothing I try to do can work the same way
(Quando mi guasto un po’ e perdo la testa, niente di ciò che provo a fare funziona come prima)
L’essere umano può contare sull’aiuto e sulla comprensione degli amici quando commette errori.
Any time it happened I’d get over it with a little help from all my friends
(Ogni volta che succedeva riuscivo a superarla con un piccolo aiuto da parte di tutti i miei amici)
Ma se a sbagliare è il robot? Ci sarà qualcuno che proverà a capire cosa non ha funzionato? Oppure si farà finta di niente… i robot non hanno amici.
Anybody else could see what’s wrong with me but they walk away and just pretend
(Qualcun altro potrebbe vedere cosa c’è che non va in me, ma loro se ne vanno facendo finta di niente)
Ma se il robot sbaglia di chi è la colpa? Se aumenta il livello di affidamento che l’essere umano fa dei robot sarà anche in grado di sostenerne la responsabilità che ne deriva? In Don’t let it show sembra che il peso della “accountability” del proprietario sul posseduto sia insostenibile ed il robot paradossalmente si fa carico di questo peso, togliendolo dalle spalle del suo ‘padrone’:
And if it hurts when they mention my name, say you don’t know me
(E se fa male quando menzionano il mio nome di’ che non mi conosci)
And if it helps when they say I’m to blame say you don’t own me
(E se aiuta quando dicono che la colpa è mia di’ che non mi possiedi).
Forse questo è il brano più emblematico e pessimistico dell’intero album. La perdita del senso e del principio di responsabilità (e quindi di umanità) sembra essere l’anticamera del declino in favore dei robot.
Infatti, il disco si conclude col brano strumentale caratterizzato da una crescente atmosfera al tempo maestosa e drammatica. Il titolo è emblematico: Genesis Ch. 1 V. 32. Il riferimento biblico è significativo poiché non esiste nessun versetto 32 nel capitolo 1 della Genesi.
Col versetto 31 Dio, il sesto giorno, osserva il completamento dell’universo con la creazione degli esseri viventi e quindi dell’uomo. Il riferimento è quindi ad un passo successivo nell’evoluzione o nella creazione in cui il genere umano crea l’intelligenza artificiale ed i robot a propria immagine decretando, come annunciato nell’incipit del disco, il proprio declino.
Il versetto che dobbiamo ancora scrivere
Forse è proprio quel versetto 32 la parte della storia che oggi spetta a noi scrivere.
A quasi cinquant’anni da I Robot, molte delle domande che Parsons e Woolfson affidavano alla fantascienza hanno abbandonato da tempo il territorio dell’immaginazione. Abbiamo costruito macchine capaci di produrre testi e immagini, analizzare enormi quantità di informazioni, suggerire decisioni e svolgere attività che fino a pochi anni fa consideravamo esclusivamente umane.
E più queste capacità crescono, più diventa facile commettere un errore molto umano: confondere la possibilità di delegare un’attività con la possibilità di delegarne anche la responsabilità.
È qui che la riflessione filosofica di I Robot incontra inevitabilmente quella sulla governance dell’intelligenza artificiale. Governare l’AI significa prima di tutto sapere dove viene utilizzata, per quali finalità, su quali dati, con quale livello di autonomia e quali conseguenze può produrre sulle persone e sull’organizzazione. Significa valutarne i rischi, definire responsabilità chiare, mantenere un’adeguata supervisione umana e, soprattutto, essere in grado di intervenire quando quella macchina, proprio come in When I Break Down, “si guasta un po’” e comincia a restituire qualcosa di diverso da ciò che ci aspettavamo.
Perché l’errore più pericoloso potrebbe essere proprio quello anticipato in Don’t Let It Show: lasciare che, quando qualcosa va storto, la responsabilità inizi a rimbalzare tra chi ha sviluppato il sistema, chi lo ha acquistato, chi lo ha configurato, chi lo ha utilizzato e, infine, la macchina stessa. Una catena nella quale tutti hanno avuto una parte nella decisione, ma improvvisamente nessuno sembra esserne davvero responsabile.
La governance serve anche a impedire questo. Serve a fare in modo che l’innovazione possa correre senza perdere per strada accountability, controllo e consapevolezza. Non dovrebbe rallentare l’intelligenza artificiale, quanto permetterci di utilizzarla sapendo sempre perché stiamo affidando una decisione a una macchina, quali limiti le abbiamo imposto e chi dovrà rispondere delle conseguenze.
Forse, allora, il futuro immaginato da Alan Parsons ed Eric Woolfson non dipenderà semplicemente da quanto diventeranno intelligenti le macchine ma da quanto resteremo intelligenti noi nel governarle.
Il versetto 32 dobbiamo ancora scriverlo.
E sarebbe opportuno non lasciare che a scriverlo sia un robot.