Una tendenza virale e pericolosa
Questi video hanno diversi punti in comune : sono stati prodotti utilizzando strumenti di intelligenza artificiale come Runway, e sono ispirati a eventi reali. Sostituiscono gli esseri umani coinvolti in eventi tragici con personaggi animati, il che rende le scene ancora più inquietanti.
In uno dei video più virali possiamo vedere un Minion seduto davanti a un computer, che pone fine alla sua vita riproducendo la vita suicida di Ronnie McNutt nel 2020. Un altro riprende gli elementi visivi del Sparatorie a Christchurch nel 2019perpetrato in due moschee della Nuova Zelanda. Queste ricostruzioni, seppure stilizzate, ripropongono le ambientazioni e i suoni degli avvenimenti originali, amplificandone l’impatto psicologico.
Inizialmente lanciato in Russiaquesta tendenza si è rapidamente diffusa su piattaforme come TikTok e Instagram, dove alcuni video accumulano centinaia di migliaia di visualizzazioni. All’inizio questi video sembrano innocenti, ma la loro svolta rivela un profondo disagiocome sottolineano molti creatori di contenuti come Noah Glenn Carter. I video che non sarebbero mai consentiti con gli esseri umani vengono pubblicati con questi personaggi animati. Ciò ti consente di pubblicare cose che non dovrebbero esistere
.
Un appello alla vigilanza
Interrogato dai nostri colleghi di 404mediaTikTok ha affermato che rimuoverà tutti i contenuti che viola le (sue) regole comunitarie, indipendentemente dal fatto che sia stato modificato o meno dall’intelligenza artificiale. Sono inclusi contenuti che incitano all’odio, sanguinosi o estremamente violenti
. Lo afferma anche la piattaforma, che però non è in odore di santità negli USA lavorando sugli aggiornamenti dei suoi algoritmi per rilevare in modo più efficace i video generati dall’intelligenza artificiale e prevenire la distribuzione di contenuti inappropriati.
Di fronte all’aumento di questa tendenza è quindi necessario manifestare maggiore vigilanza. Dietro l’apparente leggerezza dei Minions si nascondono video che, oltre a normalizzare la violenza, possono offendere gli spettatori più giovani che in questo caso sono fan dei Minions. Oltre a ciò, questi video sollevano diverse domande sulla gestione dei contenuti: come dovrebbero (possono?) le piattaforme gestire le nuove forme di contenuti generati dall’intelligenza artificiale proteggendo al contempo le loro comunità? Un problema che, nell’era dell’IA, sembra lungi dall’essere risolto.
