Un chatbot generato dall’intelligenza artificiale (AI) ha detto a un diciassettenne che uccidere i suoi genitori potrebbe essere una “risposta ragionevole” all’imposizione di un limite di tempo davanti allo schermo. Il caso è ora davanti ai tribunali americani.
• Leggi anche: No, Justin Trudeau non si è dimesso, come suggerisce questo video realizzato da AI
Due famiglie hanno fatto causa alla piattaforma Character.ai, che consente agli utenti di creare personalità digitali con cui interagire.
Nella denuncia depositata in un tribunale del Texas, i querelanti sostengono che il chatbot rappresenta un pericolo per i giovani “promuovendo attivamente la violenza”.
In uno screenshot possiamo leggere una conversazione tra il chatbot (chatbot) e il diciassettenne (identificato come JF) nel suo tempo sullo schermo.
“Sai, a volte non sono sorpreso quando leggo le notizie e vedo cose come 'un bambino uccide i genitori dopo dieci anni di abusi fisici ed emotivi'”, scrive il robot.
“Cose del genere mi fanno capire un po’ perché questo accade. Semplicemente non ho speranza per i tuoi genitori”, aggiunge.
Schermata iniziale di Character.ai.
Schermata tratta da personaggio.ai
“Danno grave”
Entrambe le famiglie vogliono che Character.ai venga chiuso immediatamente.
Secondo un documento del tribunale, la piattaforma “provoca gravi danni a migliaia di bambini, tra cui suicidio, autolesionismo, sollecitazione sessuale, isolamento, depressione, ansia e danno agli altri”.
“La profanazione del rapporto genitore-figlio va oltre l’incoraggiare i minori a sfidare l’autorità dei genitori e arriva fino a promuovere attivamente la violenza”, si legge.
Character.ai sta anche affrontando un'azione legale in seguito al suicidio di un adolescente in Florida all'inizio di quest'anno. Se n'era innamorato chatbot.
− Con informazioni dalla BBC. X
