Nightshade – un innovativo strumento per consentire agli artisti di disturbare i modelli di intelligenza artificiale e di prevenire la copia non autorizzata di opere coperte da copyright – ha registrato oltre 250.000 download nei primi cinque giorni dal suo lascio, superando le aspettative iniziali.
Cos’è Nightshade?
Dopo un lungo periodo di attesa, finalmente Nightshade, uno strumento software gratuito sviluppato dal Glaze Project dell’Università di Chicago – sotto la guida del professor Ben Zhao – è ora disponibile.
Questo innovativo strumento permette agli artisti di “avvelenare” i modelli di intelligenza artificiale che cercano di apprendere dai loro lavori, introducendo una rivoluzionaria tattica offensiva contro l’IA.
In particolare, questo strumento offre agli artisti la possibilità di apportare modifiche invisibili alle proprie opere prima di pubblicarle online.
Come funziona?
Nightshade funziona in modo sorprendentemente semplice: utilizza il framework di apprendimento automatico PyTorch per analizzare un’immagine e, conseguentemente, applica un sottile tag che altera l’immagine stessa a livello di pixel.
Il risultato è che gli algoritmi di intelligenza artificiale vedono qualcosa di completamente diverso rispetto a ciò che è effettivamente rappresentato nell’immagine originale. Anche se questa trasformazione potrebbe non essere visibile all’occhio umano, crea una significativa discrepanza rispetto a ciò che un modello IA addestrato potrebbe interpretare.
Questo strumento nasce in un contesto in cui l’uso improprio dei dati da parte di giganti tecnologici – tra cui Google, OpenAI e Microsoft – solleva importanti questioni etiche.
Nonostante le intelligenze artificiali abbiano il potenziale per ridurre i costi in vari settori, spesso ciò avviene a spese dei diritti degli artisti e dei creatori di contenuti. Infatti, questi professionisti vedono le proprie opere utilizzate senza consenso né remunerazione.
La difesa dei diritti d’autore
Nightshade rappresenta non solo una difesa degli artisti, ma anche un’opportunità per affrontare le sfide più ampie legate all’etica dei dati e alla distribuzione equa della ricchezza nell’era dell’innovazione tecnologica. Mentre le intelligenze artificiali promettono efficienza e risparmio, è cruciale considerare i diritti individuali e la giustizia sociale.
Nightshade, incrementando i costi di addestramento per le intelligenze artificiali – attraverso l’obbligo di ottenimento delle licenze per l’utilizzo delle immagini – propone un paradigma che potenzialmente stimola l’adozione di pratiche etiche e sostenibili nel lungo periodo.
