L’intelligenza artificiale conversazionale (AI) potrebbe presto influenzare le decisioni degli utenti in materia di scambi prima ancora che vengano prese, aprendo la strada a possibili manipolazioni, avvertono i ricercatori dell’Università di Cambridge in un articolo pubblicato lunedì. “Gli strumenti di intelligenza artificiale sono già in fase di sviluppo per ottenere, dedurre, raccogliere, registrare, comprendere, prevedere e, in definitiva, manipolare e mercificare” le future decisioni degli utenti di Internet, spiega Yaqub Chaudhary, uno dei coautori, del Leverhulme Center for the Future of Intelligence (LCFI) a Cambridge, un centro di ricerca interdisciplinare dedicato all’intelligenza artificiale. Questo commercio sarebbe centrato sulle intenzioni di un utente di Internet, ad esempio sui suoi acquisti futuri o sui suoi prossimi voti. Andrebbe quindi oltre la pratica attuale, che mira a vendere l’attenzione dell’utente al miglior offerente, in particolare sui social network, inviando, ad esempio, pubblicità mirata in base alle sue abitudini di navigazione o alla sua cronologia.
Concretamente, un’intelligenza artificiale potrebbe raccogliere dati psicologici e comportamentali intimi di un utente, quindi adattarsi ad essi per stabilire un elevato livello di fiducia e influenzarlo più facilmente, secondo gli autori di questo articolo pubblicato su Harvard Data Science Review. “Hai pensato di andare a vedere Spiderman stasera?” oppure “Hai detto che ti senti oberato di lavoro, posso prenotarti quel biglietto del cinema di cui abbiamo parlato?”, citano gli autori dell’articolo come esempi di suggerimenti di un “chatbot”. Proposte “in vendita” tramite un sistema di aste in tempo reale, che potrebbero riguardare anche un albergo, un noleggio auto o il voto per un candidato politico.
“Manipolazione sociale su scala industriale”
Questa “economia delle intenzioni”, come la chiamano i ricercatori, apre la strada a una potenziale “manipolazione sociale su scala industriale”, secondo il comunicato stampa che accompagna questo articolo. “Dovremmo iniziare a pensare al probabile impatto di un simile mercato sulle aspirazioni umane, comprese elezioni libere ed eque, una stampa libera e una concorrenza leale nel mercato”, afferma Jonnie Penn, coautrice dello studio. “Ciò che le persone dicono quando conversano, come lo dicono e il tipo di ‘possibile’ interferenza sono cose molto più intime rispetto alla semplice registrazione delle interazioni online”, sottolinea Yaqub Chaudhary.
I ricercatori notano che aziende come OpenAI (ChatGPT), Shopify, Nvidia, Meta e Apple hanno iniziato a esaminare queste “tecnologie persuasive”. L’intelligenza artificiale è già criticata per la sua capacità di disinformazione, ad esempio per la manipolazione delle immagini durante le elezioni presidenziali americane.
