OpenAI scioglie il suo team di sicurezza

OpenAI scioglie il suo team di sicurezza
OpenAI scioglie il suo team di sicurezza
-

Il co-fondatore di OpenAI Ilya Sutskever, insieme a Jan Leike, che ha co-guidato il team Superallineamento di OpenAI, si è dimesso dalla start-up americana di intelligenza artificiale per motivi etici. Successivamente, il capo della start-up, Sam Altman, ha deciso di sciogliere l’intero team.

Il gruppo Superallineamento è stato istituito l’estate scorsa presso OpenAI per supervisionare lo sviluppo dell’intelligenza artificiale e garantire che non si rivolterà contro l’umanità.

Jan Leike ha pubblicato un messaggio su X (ex Twitter) per fornire i dettagli della sua partenza: “Da tempo non sono d’accordo con il management di OpenAI sulle priorità dell’azienda. Siamo arrivati ​​al punto di rottura. Penso che dovremmo dedicare maggiore larghezza di banda alla preparazione per le prossime generazioni di modelli, sicurezza, sorveglianza, protezione, robustezza, (super)allineamento, privacy, impatto sociale e altri argomenti correlati”. E per aggiungere: “Costruire macchine più intelligenti degli esseri umani è un’impresa intrinsecamente pericolosa… Ma negli ultimi anni, la cultura e i processi della sicurezza sono passati in secondo piano rispetto ai prodotti”.

Ilya Sutskever e Jan Leike non sono i primi ad essersi dimessi dal team di sicurezza di OpenAI. Pensiamo in particolare ad Andrej Karpathy, Helen Toner, Tasha McCauley, Leopold Aschenbrenner, Pavel Izmailov, William Saunders, Daniel Kokotajlo e Cullen O’Keefe.

Tra le preoccupazioni sollevate dallo strumento di punta di OpenAI, ChatGPT: la sua capacità di imitare una voce umana al punto che non possiamo distinguere tra la macchina e l’essere umano. Il robot conversazionale ChatGPT-4 ha infatti superato il test di Turing secondo un recente studio condotto dal gruppo di ricerca di scienze cognitive dell’Università di San Diego in California. OpenAI è così nel mirino dell’attrice americana Scarlett Johansson che l’accusa di aver utilizzato e copiato la sua voce senza la sua autorizzazione per una delle cinque voci di ChatGPT: Sky.

-

PREV Elon Musk avverte della fine della tua vita privata! L’intelligenza di Apple si impossessa di tutti i tuoi segreti…
NEXT AI: generatore di testo in immagini per iPhone