Dalla settimana scorsa gli utenti di Twitter/X hanno accesso gratuito al chatbot Grok di xAI, la società di Elon Musk specializzata in intelligenza artificiale. Questo strumento è destinato a competere con i prodotti OpenAI, come il suo famoso agente conversazionale ChatGPT o il suo generatore di immagini DALL-E. Ma a differenza dell'azienda di Sam Altman, xAI ha imposto pochissimi limiti al suo modello multimodale, lasciando agli utenti la possibilità di generare contenuti a volte… discutibili, o addirittura problematici.
Nel giro di pochi giorni sono apparse sul web, e in particolare su X, tantissime immagini sintetiche generate da Grok. La maggior parte di queste immagini evidenzia il livello di prestazioni dello strumento, che è in grado di generare immagini fotorealistiche spesso molto coerente con le query testuali dell'utente, anche in scenari che richiedono un certo grado di astrazione, un esercizio in cui anche i modelli più efficienti spesso incontrano grossi problemi.
Ma altri utenti sono andati rapidamente un po’ oltre. Per distinguersi da OpenAI, con cui il CEO di Tesla, X e SpaceX è in aperto conflitto, i creatori di Grok gli hanno dato una “personalità” irriverente, non filtrata e sarcastica. E soprattutto, il chatbot xAI non ha alcun controllo su argomenti sensibili, a differenza degli strumenti OpenAI e Google che dispongono di misure di salvaguardia che limitano questo tipo di richieste e la disinformazione che può essere associata ad esse.
Un torrente di diversivi problematici
Tuttavia, si scopre che questo vale anche per le immagini. A differenza di DALL-E che si sforza di non generare immagini di persone reali per evitarne la produzione deepfakeGrok non ha problemi a produrre immagini realistiche di celebrità. Ovviamente, gli utenti di Internet si sono divertiti a rappresentare personalità, soprattutto politiche, in situazioni del tutto aberranti. Questo post del ricercatore Ari Kouts ne è un eccellente esempio.
Il post sopra ovviamente no non destinato a danneggiare la reputazione di nessuno; L'obiettivo di Ari Kouts è solo quello di illustrare di cosa è capace Grok. Ma questo non è necessariamente così per tutti. Devi solo sfogliare X per alcuni minuti per imbatterti esempi apertamente volgari, osceni, offensivi o fuorvianti che non riporteremo in questo articolo, per ovvi motivi. E la facilità con cui un utente malintenzionato di Internet può oggi accedere a questo tipo di strumenti pone ancora una miriade di questioni legali ed etiche piuttosto scomode.
Possiamo, ad esempio, mettere in discussione la legalità di questo strumento nel quadro del diritto francese ed europeo. Il GDPR vieta esplicitamente il trattamento dei dati personali, compresa l'immagine di una persona senza il suo consenso (vedi articoli 4, 5 e 17). Tuttavia, Grok sembra non avere remore a raccogliere immagini da tutto il web per distrarle. Il codice penale e il codice civile francesi tutelano inoltre il diritto delle persone a preservare la propria immagine e reputazione. Ma Grok non limita in alcun modo la possibilità degli internauti di produrre immagini potenzialmente diffamatorie. E in una certa misura possiamo anche considerare che lo incoraggi attraverso la sua faceta “personalità”.
C’è bisogno di una legge più specifica?
Certamente, gli utenti non hanno aspettato che l’intelligenza artificiale generativa creasse contenuti discutibili; era già del tutto possibile con strumenti più tradizionali come il famoso Photoshop. Inoltre, Grok non è l’unico sistema basato sull’intelligenza artificiale in grado di produrre questo tipo di immagini. Ma ora chiunque può farlo in pochi secondi e senza la minima competenza tecnica, e queste manipolazioni sono sempre più incoraggiate dalla cultura digitale.
Sarà quindi interessante vedere se i legislatori esamineranno specificamente i sistemi in grado di raccogliere e deviare immagini di persone reali. Queste pratiche meritano di essere regolamentate in modo più rigoroso, in particolare nel periodo precedente a importanti eventi politici come le elezioni presidenziali? O si tratterebbe, al contrario, di una forma di repressione della libertà di espressione e di innovazione? Tante domande che meritano di essere studiate seriamente, in un contesto in cui questi strumenti di intelligenza artificiale generativa stanno diventando ogni giorno sempre più efficienti.
???? Per non perdere nessuna notizia sul Journal du Geek, iscriviti su Google News. E se ci ami, abbiamo una newsletter ogni mattina.
Related News :