Dopo l’indignazione provocata in un liceo americano dalla trasmissione di frasi razziste attribuite al preside, la vertigine nello scoprire che la colonna sonora era stata realizzata ex novo. Questo episodio illustra i pericoli dell’intelligenza artificiale che diventa accessibile a tutti.
Eric Eiswert, preside di Pikesville, nel Maryland, vicino a Washington, si è trovato al centro di una violenta polemica con una registrazione vocale – rivelatasi falsa – in cui faceva commenti scioccanti contro studenti ebrei e “bambini neri ingrati”. Il caso, che si verifica nel bel mezzo di un anno elettorale negli Stati Uniti, evidenzia la facilità con cui gli strumenti di intelligenza artificiale generativa possono essere utilizzati per danneggiare chiunque e le difficoltà che le autorità devono affrontare nel combattere tali pratiche.
“Ora tutti sono vulnerabili”, e non solo le celebrità, avverte Hany Farid, professore all’Università della California, Berkeley (ovest). “Basta un’immagine per aggiungere una persona a un video e 30 secondi di audio per clonare la voce di qualcuno”, continua lo specialista nel rilevamento di immagini e registrazioni manipolate digitalmente, consultato in quel caso dalla polizia.
Quando la registrazione è trapelata sui social media a gennaio, è diventata rapidamente virale. Una pubblicazione che raccoglie migliaia di commenti su Instagram, e proietta la scuola nel cuore di una polemica nazionale. L’attivista per i diritti civili DeRay McKesson chiede le dimissioni del preside sul suo account X, seguito da quasi un milione di utenti Internet. Ammetterà di aver subito abusi. Sui social network piovono messaggi di odio e nell’establishment si moltiplicano le telefonate minacciose. “Il mondo sarebbe migliore se fossi clandestino”, scrive un utente di Internet al preside. Quest’ultimo viene messo in congedo, la sua casa posta sotto protezione. Contattato dall’AFP, non ha risposto.
“Continuo a preoccuparmi per i danni causati da questa vicenda”, confida Billy Burke, direttore del sindacato che rappresenta il preside.
Alla fine di aprile, Dazhon Darien, 31 anni, dirigente sportivo del liceo, è stato arrestato dalle autorità, accusato di essere l’autore della falsificazione. Gli investigatori lo hanno rintracciato all’indirizzo email che inizialmente aveva condiviso il file. Avrebbe agito per vendicarsi di un’indagine aperta nei suoi confronti dal mandante su pagamenti sospetti. Secondo l’accusa, l’imputato ha condotto ricerche sugli strumenti di intelligenza artificiale della rete informatica della scuola superiore. La colonna sonora, secondo l’analisi di un esperto consultato dalla polizia, “contiene tracce di contenuti generati dall’intelligenza artificiale, con editing umano a posteriori”.
Questo caso dimostra la necessità di “adattare la legge ai progressi tecnologici”, ha affermato il procuratore locale Scott Shellenberger. Molte scuole superiori americane si trovano già a dover combattere contro la distribuzione da parte degli studenti di immagini pornografiche dei loro compagni di classe realizzate utilizzando l’intelligenza artificiale generativa, una pratica che ha causato terribili ondate di molestie.
I montaggi audio sono particolarmente difficili da rilevare. A gennaio, un messaggio trasmesso tramite telefonate automatizzate che falsificava la voce del presidente Joe Biden ha incoraggiato gli elettori democratici dello stato del New Hampshire (nord-est) ad astenersi durante le primarie del partito.
