Il numero di immagini e video di aggressioni sessuali su minori generati dall’intelligenza artificiale (AI) è in aumento, una realtà “agghiacciante” che mette in discussione i fondamenti della sorveglianza di Internet.
Una progressione “agghiacciante”. Il numero di immagini e video di violenza sessuale su minori generati dall’intelligenza artificiale (AI) sta esplodendo, preoccupa la Internet Watch Foundation (IWF), un’organizzazione britannica responsabile del rilevamento e della rimozione di questi contenuti.
Questi video di minori “aggrediti e maltrattati” sarebbero sempre più realistici, al punto che diventa difficile distinguerli dalle immagini di bambini veri, afferma la fondazione in un comunicato stampa diffuso venerdì 18 ottobre.
deep fake su siti accessibili al grande pubblico
In soli sei mesi, gli analisti dell’organizzazione stimano un aumento del 6% nel numero di segnalazioni contenenti materiale pedopornografico generato dall’intelligenza artificiale. Nel dettaglio, l’IWF aveva ricevuto 70 segnalazioni tra aprile 2023 e marzo 2024, rispetto alle 74 segnalazioni solo tra aprile e settembre 2024.
Ancora più preoccupante è il fatto che quasi tutte queste immagini si trovavano su siti facilmente accessibili al grande pubblico. “Questo contenuto criminale non è nascosto nel Dark Web. Quasi tutti i rapporti o gli URL che abbiamo elaborato contenenti materiale pedopornografico generato dall’intelligenza artificiale sono stati trovati sul Web di superficie”, spiega un analista dell’organizzazione, con il pretesto di anonimato.
immagini realizzate con abusi molto reali
“Lo trovo davvero spaventoso perché sento che siamo a un punto critico e organizzazioni come la polizia e noi stessi potremmo essere sopraffatti da centinaia e centinaia di nuove immagini, senza sapere se un bambino vero ha bisogno di aiuto da qualche parte”
Soprattutto perché immagini e video di vittime reali vengono forniti e utilizzati dall’intelligenza artificiale per generare questi contenuti. “Per raggiungere il livello di sofisticazione osservato, il software utilizzato ha dovuto imparare da immagini e video reali di aggressioni sessuali su minori condivisi su Internet”, ha affermato Derek Ray-Hill, direttore generale ad interim dell’IWF, citato nel comunicato stampa.
Per far fronte a questo, quest’ultimo esorta i parlamentari britannici ad adattare le leggi esistenti “all’era digitale” e ai suoi strumenti in costante miglioramento.
l’ONU è preoccupata
Mentre i giganti dell’IT fanno a gara per trovare l’intelligenza artificiale più potente sul mercato, questa nuova tecnologia sembra prendere una piega preoccupante in tutto il mondo.
Ad agosto, la Corea del Sud si è trovata ad affrontare un’ondata di contenuti pornografici falsi, rivolti principalmente a giovani donne e ragazze minorenni. Il presidente ha quindi invitato la polizia ad agire immediatamente.
Giovedì 19 settembre le Nazioni Unite si sono pronunciate sui pericoli degli abusi dell’intelligenza artificiale. “L’intelligenza artificiale deve servire l’umanità in modo equo e sicuro (…) Se senza controllo, i pericoli posti dall’intelligenza artificiale potrebbero avere gravi implicazioni per la democrazia, la pace e la stabilità”, ha spiegato Antonia Guterres, portavoce delle Nazioni Unite.
