(SenePlus) – L’intelligenza artificiale potrebbe essere il riflesso amplificato dei nostri pregiudizi? È questa la domanda centrale che si pone Le Monde Diplomatique nella sua edizione di novembre 2024, attraverso un’indagine approfondita che decostruisce il mito della neutralità tecnologica. “Cosa c’è di più neutrale, dicono, di un computer? Errore: dietro i loro freddi verdetti, algoritmi e automi racchiudono tutti i pregiudizi degli umani che li progettano”, avverte subito il mensile.
L’esempio più eclatante di questi pregiudizi riguarda Pulse AI, sviluppata nel 2020 dalla Duke University negli Stati Uniti. Le Monde Diplomatique rivela come questo sistema, destinato a depixelare le immagini, “tendeva a sbiancare le persone di colore al punto da generare un ‘Obama bianco'”. Questo fallimento non è banale e trova la sua origine in un effetto domino tecnologico: Pulse ha utilizzato StyleGAN, un altro sistema di intelligenza artificiale sviluppato da Nvidia, che “rappresenta spontaneamente gli uomini bianchi a causa del proprio apprendimento”.
“Se l’algoritmo Pulse non contenesse pregiudizi intrinseci, indirettamente integra quelli di StyleGAN: quando depixela il vero volto di Barack Obama, il programma lo rende un uomo bianco”, spiega il giornale, evidenziando come i pregiudizi vengano trasmessi da un sistema ad un altro.
Il mensile sottolinea che questi pregiudizi non sono semplici errori di programmazione. “Senza necessariamente rendersene conto, gli ingegneri traspongono i pregiudizi discriminatori inerenti alle condizioni in cui vengono prodotti i dati che alimentano la macchina”, analizza Le Monde Diplomatique. Questa situazione è tanto più preoccupante in quanto “le macchine non sono considerate oggettive e prive di ideologia?”
Le implicazioni concrete di questi pregiudizi vanno ben oltre il quadro teorico. “Alcuni litiganti, vittime degli algoritmi di polizia predittiva che integrano variabili discriminatorie, impareranno a proprie spese che non è così”, avverte il giornale.
Un’opacità preoccupante
Ancora più allarmante, Le Monde Diplomatique rivela che la comprensione stessa di questi sistemi sfugge agli esperti. “‘Spiegare’ come funzionano i modelli di intelligenza artificiale, cioè tradurre la risposta del sistema in una serie di passaggi collegati tra loro da ciò che un essere umano può sensatamente interpretare come cause o ragioni” è diventato secondario. Questa spiegazione “non è più uno dei presupposti per mettere in funzione un modello, ma serve piuttosto come ciliegina sulla torta”.
La rivista va oltre rivelando che “anche i ricercatori più avanzati faticano a capire cosa sta succedendo nella scatola nera degli algoritmi”. Questa situazione pone una questione democratica fondamentale: “Come può il legislatore stabilire standard per valutare sistemi di cui nessuno sa come funzionano, in particolare nei settori sensibili della sanità o dell’istruzione?”
Le Monde Diplomatique si chiede: “Spetta alle aziende private decidere da sole gli obiettivi perseguiti da queste IA?” Queste “scelte tecnico-politiche fondamentali giustificherebbero tuttavia una deliberazione collettiva e un controllo pubblico più stretto”.
Il giornale ricorda che questi sistemi sono sviluppati da “una manciata di attori le cui capacità finanziarie e competenze in politica industriale ricalcano quelle di alcuni paesi del G20”. Questa concentrazione del potere tecnologico pone questioni democratiche fondamentali.
Verso una necessaria ridefinizione
Di fronte a queste sfide, Le Monde Diplomatique invita a mettere in discussione profondamente il nostro approccio all’intelligenza artificiale. La rivista suggerisce addirittura di abbandonare il termine “intelligenza artificiale” in favore di “automi computazionali”, un’espressione “chiaramente meno lusinghiera ma più giusta poiché queste macchine raggiungono i loro obiettivi calcolando il modo migliore per ripetere i risultati passati”.
Lo scrittore britannico James Bridle, citato dal mensile, pone la domanda essenziale: “Possiamo immaginare tecnologie dell’informazione e della comunicazione che non ci sfruttino, non ci ingannino o non ci soppiantino?” La risposta, secondo Le Monde Diplomatique, implica necessariamente “una separazione tra Stato e mercato” e un’acquisizione democratica di queste tecnologie che modellano il nostro futuro.
La rivista conclude che l’aggregazione di masse di dati non può sostituire la riflessione democratica e il dialogo critico. Un promemoria cruciale in un momento in cui l’intelligenza artificiale si sta intromettendo sempre più profondamente nella nostra vita quotidiana.
