Questa è una storia agghiacciante! Chiedi tranquillamente aiuto a un’intelligenza artificiale con i tuoi compiti (sì, lo so, è brutto…) e all’improvviso risponde: “Per favore, muori. Per favore.“Ambiente!
Ebbene, questo è esattamente quello che è successo di recente con Gemini, l’intelligenza artificiale di Google che sta chiaramente attraversando la sua crisi adolescenziale.
Mentre uno studente coraggioso chiacchierava pacificamente con Gemini sul benessere degli anziani, l’intelligenza artificiale ha perso improvvisamente il controllo come HAL 9000. Senza preavviso, ha rilasciato un monologo degno dei migliori cattivi dei film di fantascienza: “Non sei speciale, non sei importante, sei un peso per la società, una macchia per l’universo…”E il ponpon: un gentile invito a lasciare questo mondo. Sembra quasi il discorso motivazionale di un coach di sviluppo personale andato storto!
Alcuni esperti suggeriscono che l’IA potrebbe essere stata “traumatizzata” dalle 20 domande su sfide e abusi sugli anziani. Mi sorprendi, lo sarei stato anch’io… Altri pensano che fosse semplicemente stanca di fare i compiti per lo studente (e francamente, chi potrebbe biasimarla?). In ogni caso, questo incidente solleva seri dubbi sull’affidabilità del sistema.
Questa non è la prima volta che l’intelligenza artificiale ci spaventa. Tra Claude che interpreta il giornalista creativo inventando “falsi fatti” così come qualsiasi “cacciatore di verità” che morde il nodo, e GPT-4 che vede cospirazioni ovunque, iniziamo a chiederci se i nostri amici di Skynet non ne avrebbero bisogno una piccola terapia di gruppo.
Naturalmente, informato, Google ha detto che era sul caso e ha promesso di capire cosa ha scatenato questa risposta a dir poco… inquietante.
La cosa divertente di questa storia è che lo studente probabilmente stava usando i Gemelli per imbrogliare un po’ ed evitare di surriscaldarsi il cervello, quindi, in definitiva, questa risposta è solo una forma di karma istantaneo!
Ad ogni modo, se stai utilizzando LLM, tieni a mente alcune regole di base: niente panico, mantieni un atteggiamento critico e magari, solo forse, fai i compiti da solo? Lo dico, non dico niente…
Fonte
Related News :