All'inizio è stato divertente vedere il personaggio di Terminator, normalmente interpretato da Arnold Schwarzenegger nel film omonimo, con la testa di Sylvester Stallone. O Bruce Lee in una scena di Matrice al posto di Keanu Reeves. Per non parlare delle famose scenette che coinvolgono un finto Tom Cruise del designer grafico computerizzato belga Chris Umé. Ma tutti capirono presto quanto sarebbero stati problematici questi trucchi.
Naturalmente, la falsificazione di foto e video esiste da molto tempo. Solo che si tratta di deepfake, contenuti generati dall'intelligenza artificiale (AI). Non solo lo straordinario progresso di queste tecnologie permette di ottenere un realismo sorprendente, ma queste manipolazioni possono essere effettuate da casa da un personal computer dotato degli strumenti adeguati (in particolare software open Source ad accesso gratuito) e il risultato può essere trovato con un clic su internet, condivisi, scambiati, duplicati a piacimento e senza sforzo.
Un termine apparso alla fine del 2017
Sono tutte queste dimensioni che il libro affronta, con uno stile attento nonostante l'aridità dell'argomento. Deepfake, l'intelligenza artificiale al servizio della falsità (Éditions Eyrolles) di Olivier Lascar. L'autore conosce l'argomento poiché è redattore del centro digitale di Scienza e futuro dove si discute regolarmente di deepfake. Dalla divulgazione del termine stesso, apparso alla fine del 2017 nei forum Reddit.
È uno dei primi pregi di questo libro quello di risalire alla preistoria dei deepfake, ben prima che esistessero ChatGPT o Dall-E. All'epoca non si inserirà una descrizione in linguaggio naturale per ottenere un'immagine artificiale, animata o meno. La tecnica si basava su un metodo chiamato reti generative avversarie (GAN), frutto del lavoro di uno studente di dottorato presso l'Università di Montreal nel 2014, Ian Goodfellow, ora presso DeepMind, la divisione di intelligenza artificiale di Google.
Ancor prima che fosse coniata la parola “deepfake”, un team tedesco ha fatto dire a delle personalità, in sequenze video manipolate, cose che non avevano mai detto, sincronizzando i movimenti delle labbra con le parole immaginarie. Fu il progetto Face2 Face del 2016 a far intravedere già prospettive folli in termini di manipolazione politica.
“Un problema sociale”
Tre anni dopo, sul sito di Scienza e futuroha sottolineato il ricercatore Vincent Nozick (il libro discute a lungo il suo lavoro nel rilevamento dei deepfake). “un problema sociale”. Dalla guerra in Ucraina, infatti, alla campagna per le elezioni presidenziali americane del 2024, passando per le truffe basate sulle voci generate, i deepfake sono sul punto di alterare la nozione stessa di realtà.
“Deepfake, l'intelligenza artificiale al servizio della contraffazione”, un libro di Olivier Lascar edito da Eyrolles (200 pagine, 16,90 euro).
In molti modi, Deepfake prende l'aria della storia dell'intelligenza artificiale attraverso il prisma dell'elaborazione delle immagini, permettendoci di tornare ai fondamenti come l'apprendimento automatico, l'apprendimento per rinforzo, l'intelligenza artificiale statistica rispetto all'intelligenza artificiale simbolica, senza che tu possa anche configurarti come un manuale. Il tutto è sempre supportato da scenari, aneddoti, riferimenti culturali. Che hanno il merito di non soffermarsi sull’eterno Matrice e altri Philip K. Dick, che hanno sempre lo svantaggio di congelare la riflessione sull’intelligenza artificiale in un’immaginazione distaccata dalle realtà tecniche. E, soprattutto, per mantenere l’idea che gli eccessi dell’IA, in definitiva, sono ancora solo finzione, abbiamo tempo di vedere. Tuttavia il libro lo dimostra: no, non vedremo. Lo vediamo già.
Mistificazioni potenzialmente enormi
Questa dimensione alimenta una lunga riflessione nel libro. Deepfake è entrato in quella che Olivier Lascar descrive come “l’era industriale”, quella delle mistificazioni potenzialmente massicce e, per di più, potenziata dai meccanismi di raccomandazione algoritmica dei social network. In altre parole: il falso, lo scioccante, l'aggressivo è una macchina di click e engagement che va nella direzione del modello economico di YouTube e di altri Meta.
Cosa fare allora? Questo è l'argomento di una parte finale dedicata ai mezzi tecnici per contrastare l'ondata di contraffazione, o almeno per aiutarla a identificarla. Olivier Lascar, che ha parlato con diversi specialisti (ricercatori, ingegneri, esperti di sicurezza informatica), non nasconde il fatto che la partita è lungi dall'essere vinta.
