Ilya Sutskever, cofondatore di OpenAI, che si è dimesso dalla carica di direttore scientifico il mese scorso, ha rivelato il suo nuovo progetto. Ha appena creato la sua startup chiamata SSI for Safe SuperIntelligence. Presso OpenAI entrò in conflitto con Sam Altman sulla politica seguita in termini di gestione della sicurezza dell’IA. Lo scorso novembre era tra i membri del consiglio che cercavano di estrometterlo, cosa di cui poi si è pentito.
Quando ha co-guidato il team di superallineamento di OpenAI, Ilya Sutskever ha stimato che entro un decennio potrebbe nascere una superintelligenza, capace di superare la mente umana. Ha avvertito delle sue possibili conseguenze:
“La superintelligenza sarà la tecnologia di maggior impatto che l’umanità abbia mai inventato e potrebbe aiutarci a risolvere molti dei problemi più importanti del mondo. Ma il vasto potere della superintelligenza potrebbe anche essere molto pericoloso e portare alla perdita di potere dell’umanità o addirittura all’estinzione umana. »
È ispirandosi a questa idea che Ilya Sutskever lancia il suo nuovo progetto. A lui si uniscono come cofondatori Daniel Gross e Daniel Levy, due ricercatori che hanno lavorato nei laboratori Apple e OpenAI.
“Costruire una superintelligenza sicura (SSI) è il problema tecnico più importante del nostro tempo”scrivono sul sito della startup, specificando che avrà “un obiettivo e un prodotto: superintelligenza sicura”.
Per questo SSI intende “affrontare sicurezza e capacità in tandem”cercando di far progredire le capacità il più rapidamente possibile, ma garantendo che la sicurezza rimanga la priorità.
“Il nostro focus esclusivo significa che non ci sono distrazioni dalle spese generali di gestione o dai cicli di prodotto, e il nostro modello di business significa che la sicurezza, la protezione e il progresso sono tutti protetti dalle pressioni commerciali a breve termine”dicono i fondatori.
L’azienda non dice di più su come finanzierà il suo sviluppo, ma la sua missione è chiara. Chiama gli ingegneri che vogliono “concentrarsi sull’SSI e nient’altro” venire a ingrossare le sue fila. La startup americana apre i primi uffici a Palo Alto e Tel Aviv.
Un appello che forse risuonerà tra i dipendenti di OpenAI e Google DeepMind che all’inizio di questo mese hanno pubblicato una lettera aperta in cui mettevano in guardia sui pericoli dell’intelligenza artificiale.
