“Donald e gli Stati Uniti hanno qualcosa di cui preoccuparsi”, scherza su un utente di Internet. “Completamente inutile e stupido”, affronta un altro. Dal suo lancio questo giovedì, Lucie, un’intelligenza artificiale generativa francese supportata dallo stato, è stata oggetto di numerose critiche sui social network. Ciò è dovuto, in particolare, alle sue risposte spesso traballanti a semplici domande.
Creata dalla società editrice di software francese Linagora, in particolare in collaborazione con il CNRS e con il supporto del segretariato generale per gli investimenti, Lucie è un’intelligenza artificiale generativa che si basa su raccolte di dati di formazione etica, che rispettano le normative europee.
Il suo obiettivo? Diventa un’intelligenza artificiale generativa paragonabile al famoso Chatgpt, Grok o Gemini, conforme alle regole dell’UE, Sovereign, francese e aperto. Questa piattaforma mira persino ad essere “adattata per il mondo dell’educazione nel 2025”, indica la direzione generale dell’educazione scolastica su X.
Problema: la sua prima versione, resa disponibile questo giovedì, è tutt’altro che affidabile. Quindi, quando un utente di Internet chiede a Lucie di eseguire un semplice calcolo (5 (3 + 2)), la piattaforma le dà la risposta sbagliata … due volte, rispondendo “17”, quindi “50”. Quando gli chiede quante “R” sono presenti nella parola inglese “fragola”, risponde “solo una”, anziché tre.
“Un modello imperfetto”
Un altro utente ha chiesto all’interfaccia quale fosse il peso di un buco nel formaggio Gruyere. Prendendo sul serio la domanda, Lucie ha risposto … “circa 10-20 g”. Lo stesso problema quando un utente di Internet le chiede la definizione di uova di mucca: Lucie fornisce una risposta quasi seria, elogiando i benefici di questo cibo … che non esiste.
Di fronte alle critiche, l’IA ha dovuto chiudere temporaneamente il suo accesso, i suoi creatori hanno esaurito “troppi messaggi che distorcono il lavoro, l’investimento dei nostri team e le nostre ambizioni”.
I manager della piattaforma erano desiderosi di sottolineare, sul loro sito, che il loro progetto “è soprattutto un progetto di ricerca accademica volta a dimostrare la capacità di sviluppare beni comuni digitali di AI generativa in Francia e in Europa”, e che il suo uso in Un contesto educativo è attualmente “prematuro”.
“Le risposte generate non sono quindi garantite e possono contenere pregiudizi o errori”, insistono sui suoi creatori, che sottolineano che il progetto è ancora nella sua fase iniziale. “Lucie è certamente un modello imperfetto, ma è un primo passo su una lunga strada per costruire un’intelligenza artificiale trasparente, sovrana e utile per la società”, continuano.
