I social media sono sempre stati un terreno fertile per i contenuti virali, ma sta emergendo una nuova tendenza allarmante che mette in luce il problemauso cinico delle immagini generate dall’intelligenza artificiale (AI) per attirare l’attenzione e ottenere piacein particolare dalla generazione di boomer (persone nate almeno tra il 1946 e il 1954), che sembrano essere gli obiettivi principali.
Il verticale Slate.fr dedicato alle nuove tecnologie, Korii, riporta un’inchiesta realizzata dal sito investigativo americano 404 Media. Quest’ultimo lo rivela Facebook, il colosso dei social media, è diventato sede di una profusione di immagini virtuali rappresentare bambini in situazioni di loro scelta, imprese incredibili, denti bianchi scoperti, o al contrario disagio estremo, che va dalla malattia alla mutilazione.
Bambini magri e deformi…
Queste immagini, tanto inquietanti quanto realistiche, raffigurano bambini magri, deformi o dotati di respiratori, che lottano per la sopravvivenza su spiagge desolate o mendicano ai lati delle strade. A volte, al contrario, se li mostrano tutti sorridenti e orgogliosi di aver costruito un piccolo chalet in legno o un labrador realizzato con bottiglie di plastica riciclate.
Il loro aspetto irreale non sembra sempre evidente ad alcuni utenti, che si lasciano ingannare da questi montaggi o sono indifferenti alla loro autenticità.
Il fenomeno suscita un vivace dibattito sui social network, alcuni utenti esprimono il loro disagio per questo sfruttamento del miserabilismo, associato ad un’estetica strana e inquietante.
Se alcuni post specificano che si tratta di immagini generate dall’intelligenza artificiale, altri omettono queste informazioni crucialicontribuendo così alla confusione e alla creduloneria degli utenti.
Ricevi gli auguri indirizzati a questi bambini virtuali
Questi ultimi arrivano addirittura a inviare auguri di guarigione a questi bambini virtuali, ignorando completamente la loro natura artificiale.
Le pagine offensive potrebbero potenzialmente aprire la porta alle truffe onlinecon utenti ben intenzionati ma ingannati che potrebbero essere indotti a donare per questi bambini falsi.
Di fronte a questa minaccia crescente, Facebook prevede di introdurre misure per identificare chiaramente i contenuti generati dall’intelligenza artificialerendendo obbligatoria la menzione “generato da un’IA”.
Ci sta pensando Meta, il gruppo proprietario di Facebook un approccio che combina il rilevamento automatico e la segnalazione volontaria da parte dei creatori di contenutima difficilmente ciò basterà a risolvere il problema.
Alla domanda di 404 Media, la società della Silicon Valley non ha fornito commenti aggiuntive per il momento, lasciando dubbi sulle azioni concrete da intraprendere per contrastare questa nuova forma di abuso dei social network.
