I pedofili ora utilizzano la tecnologia del deep fakery, meglio conosciuta con il nome inglese di deepfake – per creare ancora più pedopornografia. Usano foto e video di abusi sessuali su minori e sostituiscono i loro volti con quelli di giovani che trovano ovunque, anche su Facebook, dove i loro genitori pubblicano con orgoglio le foto dei loro figli.
E il fenomeno crescerà, avverte la Sûreté du Québec (SQ), che mette in guardia i genitori: attenti a ciò che mettete online.
“Purtroppo, non c’è un bambino che sia al sicuro da questa forma di sfruttamento”, ha detto in un’intervista a Dovere René Morin, portavoce del Canadian Centre for Child Protection. Perché questa tecnologia, supportata da software che utilizzano l’intelligenza artificiale, “consente la commissione di crimini che potrebbero coinvolgere praticamente tutti i bambini delle nostre comunità”, scrive il giudice Benoit Gagnon, chiaramente scioccato, mandando in prigione un uomo che ha prodotto materiale pedopornografico in questo modo .
Un semplice estratto video di un bambino disponibile sui social network – o anche una cattura video surrettizia di bambini ripresi in un luogo pubblico – “potrebbe trasformarli in potenziali vittime”, continua il magistrato della Corte del Quebec nella sua decisione emessa il mese scorso . “Mi fa venire i brividi lungo la schiena. »
Secondo lui, questo procedimento penale sarebbe il primo davanti ai tribunali. “La situazione in esame è unica nei casi giudiziari del Paese poiché la criminalizzazione della produzione di pornografia infantile sotto forma di deep-faking non ha precedenti. »
Una “collezione” da record
Le autorità di polizia hanno arrestato Steven Larouche, un 60enne della zona di Sherbrooke, nel dicembre 2021. Sul suo computer hanno trovato un numero considerevole di file di foto e video: più di 545.000 – una cifra “da capogiro”, scrive il giudice Gagnon.
Per quanto riguarda i file che l’imputato ha creato utilizzando software di deepfaking, ce n’erano 86.000 facciali per sostituire realisticamente un volto con un altro, che prende vita e parla, si legge nella sentenza.
La “collezione” di Steven Larouche è tra le più importanti della storia giudiziaria, nota tristemente il magistrato. Il piccolo campionario di immagini presentato alla Corte “lascia senza parole” e svela “ciò che vi è di più vile e abietto”.
L’uso del deep faking può essere difficile da rilevare. In questo giudizio si apprende che nel tempo gli inquirenti specializzati riconoscono determinate immagini e sequenze video di pedopornografia, perché si trovano in molteplici “raccolte”. Qui, gli agenti hanno notato che alcuni video sembravano loro familiari, con alcune differenze. Ulteriori indagini hanno mostrato che i volti erano stati sostituiti su video precedentemente noti. Successivamente è stato trovato un software di deep fake sul computer dell’autore del reato.
Secondo il Canadian Center for Child Protection, il deepfaking è una continuazione delle tecnologie usate per vittimizzare i bambini: prima si usavano software di editing delle immagini come Photoshop, ma producevano comunque risultati meno realistici, spiega René Morin.
Che senso ha sostituire i volti con altri in questo modo? Secondo il signor Morin, i delinquenti lo fanno per integrare i volti dei bambini che conoscono: un piccolo vicino di casa o un membro della loro famiglia. “Un modo per dare libero sfogo alle loro fantasie”, dice. E i video così prodotti vengono utilizzati anche per sextortion: “mi paghi tale e tale somma di denaro, altrimenti metto questo video online con tuo figlio”, descrive.
Secondo il giudice Gagnon, c’è anche un costante appetito per “nuovo materiale” negli anelli pedofili – e questo è un modo per crearlo.
tecnologia perversa
Il signor Morin non può quantificare il fenomeno dell’hyperfaking, ma sottolinea che “lo stiamo vedendo sempre di più”. Sfortunatamente, dice, la tecnologia genera molte discussioni e scambi sui forum clandestini di pedofili. “La cosa preoccupante è che con Photoshop ci è voluto del tempo. Ora è molto più facile. E che rischia di aumentare la quantità di materiale in circolazione. »
Questo è anche ciò che teme SQ, i cui agenti hanno indagato su Steven Larouche.
Il fenomeno non è ancora diffuso, dice il sergente Geneviève Bruneau, ma “il SQ sa bene che crescerà nei prossimi anni”. I nostri team sono costantemente all’erta, aggiunge. “Dobbiamo avere una consapevolezza collettiva che se mettiamo le foto sui social media, diventa materiale facilmente accessibile per le persone che hanno questa devianza. »
Il Service de police de la Ville de Montréal (SPVM) sottolinea l’importanza di sensibilizzare i genitori sui rischi associati alla pubblicazione online di immagini dei propri figli. “Raccomandiamo vivamente di abilitare i controlli e regolare le impostazioni sulla privacy dei loro account sui social media per limitare il pubblico dei loro post, foto e video. »
Ma nonostante tutti gli sforzi che possono essere fatti, dal momento in cui sono online, “è impossibile garantire la fine della loro trasmissione”, aggiunge il portavoce di SPVM Anik de Repentigny.
Dobbiamo avere una consapevolezza collettiva che se mettiamo le foto sui social media, diventa materiale facilmente accessibile per le persone che hanno questa devianza.
Project Arachnid, del Canadian Centre for Child Protection, sta partecipando allo sforzo diffondendo la sua rete sul Web per combattere la proliferazione di immagini di abusi sessuali su minori, in particolare utilizzando strumenti di rilevamento delle immagini per eliminarle.
Steven Larouche si è dichiarato colpevole di possesso, distribuzione e produzione di materiale pedopornografico. Ma aveva la sensazione “di aver commesso un crimine senza vittime” poiché non aveva un vero contatto con i bambini, si legge nella sentenza sulla sua condanna.
Il giudice Gagnon ha rapidamente respinto questa argomentazione. I delinquenti non possono sperare in clemenza dal tribunale sulla base del fatto che sono stati “semplici fai-da-te”. Affronteranno le stesse pene, avverte, imponendo a Steven Larouche una pena detentiva di otto anni per i suoi crimini, tra i più gravi del codice penale.
Il compito delle forze di polizia sarà ora più complesso e difficile, ha osservato il giudice: “Le autorità di polizia si stanno visibilmente trovando in una nuova era del crimine informatico. »
