Nightshade – Avvelenare la IA

L’IA ha messo in discussione il concetto di proprietà intellettuale, con un rapporto sbilanciato nei confronti degli artisti e delle opere utilizzate per allenarle. Tutto, forse, sta per cambiare

--------------------------------------------------------------
MASTERCLASS DI REGIA ONLINE CON MIMMO CALOPRESTI DAL 5 MARZO

--------------------------------------------------------------

Greg Rutkowski è un illustratore polacco. Ha lavorato e plasmato estetiche molto importanti degli ultimi anni, dal videogioco Horizon: Forbidden West fino al gioco di carte Magic: The Gathering passando per Dungeons and Dragons. Come racconta il MIT Review, è il suo nome a essere uno dei comandi (prompt) più utilizzati per guidare Stable Diffusion, uno dei text-to-image più noti e importanti. Poteva essere un’occasione per farsi conoscere, per entrare in contatto con nuovo pubblico, eppure una ricerca veloce in rete ha confermato a Rutkowski che poche delle immagini in circolazione erano state realizzate davvero da lui. La maggior parte di esse erano frutto di un’I.A. “Tra un anno cosa accadrà? Probabilmente non sarò in grado di trovare miei lavori, visto che la rete sarà sommersa da immagini in I.A. Questo è preoccupante”.

--------------------------------------------------------------
40% DI SCONTO, IL 29 FEBBRAIO! UN’OFFERTA CHE ARRIVA SOLO OGNI 4 ANNI! COGLIETE L’ATTIMO.

--------------------------------------------------------------

È passato più di un anno da quando questa preoccupazione si è fatta strada in Rutkowski e molto è cambiato. Nel gennaio del 2023, tre artiste (Sarah Andersen, Kelly McKernan, Karla Ortiz) hanno fatto causa a diverse compagnie tecnologiche. La motivazione è il supposto infrangimento dei diritti d’autore nei confronti di milioni di artisti, le cui opere sono state incluse nell’allenamento delle I.A. senza il loro consenso o qualsiasi tipo di compenso. Considerando che il modello di Stable Diffusion si basa su 5 miliardi di immagini, ipotizzando anche solo un dollaro di infrazione per ogni immagine il calcolo è facile e il risultato astronomico. Compagnie come Stability AI e Open AI offrono la possibilità agli artisti di tirare fuori le proprie opere dai programmi di training delle intelligenze artificiali. Un argomento difensivo utilizzato da queste compagnie è che le IA non utilizzano o accumulano direttamente immagini soggette a diritto d’autore, ma modelli matematici derivati da quelle immagini.

Il motivo di tale [lettera] è l’uso da parte di Stability AI della proprietà intellettuale di altri – in assenza di autorizzazione o considerazione – per costruire una commerciale a proprio vantaggio finanziario”. Così comincia la letter before action inviata da Getty Images a Stability AI a gennaio. La causa (con una richiesta di danni di 2 trilioni di dollari) va avanti. Qualche giorno fa, invece, un giudice federale statunitense ha archiviato la causa delle tre artiste, che non sarebbero riuscite a dimostrare le infrazioni del copyright nei loro confronti. Oltretutto, a settembre un altro giudice ha seguito l’indicazione del Copyright Office, secondo cui le immagini generate dalle IA non sono soggette al diritto d’autore vista l’assenza dell’input umano nella creazione (non considerando, di fatto, il lavoro del prompter).

Prossimamente, però, gli artisti hanno a disposizione una nuova arma. Si tratta di Nightshade, strumento sviluppato dall’università di Chicago e in grado di avvelenare le IA. Nightshade è l’evoluzione di un tool già esistente, Glaze, che permette agli artisti di mascherare con uno stile diverso le loro immagini, così da renderle inappetibili per gli scrapers, i bot che ricercano nel web i dati per allenare le IA. Come detto, queste ultime non accumulano direttamente immagini, ma modelli matematici desunti da queste. Nightshade interviene proprio su questi, che una volta entrati nella mappa neurale possono danneggiarla. Utilizzando, per esempio, 300 immagini avvelenate, alla richiesta dell’immagine di un cane si arrivava a ottenere quella di un gatto. Nasce, così, un vero e proprio deterrente nei confronti di queste compagnie, anche se non è chiara ancora l’entità della minaccia. Infatti, servirebbero migliaia e migliaia di campioni contaminati per influenzare pienamente la mappa neurale e non esistono ancora delle vere e proprie difese nei confronti di questi attacchi.

Se l’esito di queste battaglie resta incerto come gli sviluppi di questa tecnologia, è chiaro come il vecchio concetto di proprietà intellettuale sia ormai inutilizzabile. “Non ci sono regole specifiche riguardo a tutto questo”, ricorda il fondatore di Midjourney, David Holz, mentre il CEO di Getty Images paragona il contesto attuale a quello della musica con l’arrivo di Napster. Davanti a peer to peer, servizi streaming e digitalizzazione, non ci si può semplicemente attaccare a vecchie sicurezze, come il supporto fisico. Un paesaggio diverso necessita di nuove strategie di attraversamento e, di fronte a una mappa tanto complessa da essere impossibile da consultare, ognuno di noi può inciampare sulla strada maestra.

----------------------------
CORSO DI SCENEGGIATURA CON FRANCO FERRINI, DAL 12 MARZO!

----------------------------

    ISCRIVITI ALLA NEWSLETTER DI SENTIERI SELVAGGI

    Le news, le recensioni, i corsi di cinema, la riviste, i libri, gli eventi e tutte le nostre iniziative