L’ex CEO di Google Eric Schmidt afferma che l’intelligenza artificiale autonoma (AI) sta arrivando e potrebbe rappresentare una minaccia esistenziale per l’umanità.
“Presto saremo in grado di far funzionare i computer da soli, decidendo cosa vogliono fare”, ha detto Schmidt, che da tempo mette in guardia sui pericoli associati ai benefici dell’intelligenza artificiale per l’umanità, durante un’apparizione il 15 dicembre alla ABC ” Questa settimana”.
“Questo è un punto pericoloso: quando il sistema potrà migliorarsi, dobbiamo seriamente considerare di staccarlo”, ha continuato Eric Schmidt.
Schmidt non è il primo dirigente tecnologico a sollevare queste domande.
L’ascesa dei prodotti di intelligenza artificiale di consumo come ChatGPT non ha precedenti negli ultimi due anni, con importanti miglioramenti al modello basato sul linguaggio. Altri modelli di intelligenza artificiale sono diventati sempre più abili nel creare opere d’arte visive, fotografie e video interi che, in molti casi, sono praticamente indistinguibili dalla realtà.
Per alcuni, questa tecnologia ricorda la serie Terminatoreche descrive un futuro distopico in cui l’intelligenza artificiale prende il controllo del pianeta, portando a conseguenze apocalittiche.
Nonostante tutti i timori su ChatGPT e altre piattaforme simili, i servizi di intelligenza artificiale consumer disponibili oggi rientrano ancora in una categoria che gli esperti chiamerebbero “intelligenza artificiale stupida”. Queste IA vengono addestrate da un enorme insieme di dati, ma non hanno consapevolezza, sensibilità o capacità di comportarsi in modo autonomo.
Il signor Schmidt e altri esperti non sono particolarmente preoccupati per questi sistemi.
Sono invece preoccupati per l’intelligenza artificiale più avanzata, conosciuta nel mondo tecnologico come “intelligenza artificiale generale” (AGI), che descrive sistemi di intelligenza artificiale molto più complessi che potrebbero essere senzienti e, per estensione, sviluppare motivazioni coscienti indipendenti dagli interessi umani e potenzialmente pericolosi. per loro.
Secondo Schmidt ancora oggi non esiste un sistema del genere. Ci stiamo rapidamente muovendo verso un nuovo tipo di IA intermedia: priva della sensibilità che definirebbe un’AGI, ma capace di agire autonomamente in aree come la ricerca e gli armamenti.
“Lavoro in questo campo da 50 anni. Non ho mai visto un’innovazione su questa scala”, ha affermato Eric Schmidt riferendosi alla rapida evoluzione della complessità dell’intelligenza artificiale.
Per Schmidt, un’intelligenza artificiale più sviluppata avrebbe molti benefici per l’umanità, ma potrebbe anche avere effetti altrettanto dannosi, ad esempio [dans le domaine] armi e attacchi informatici.
La sfida
Secondo Eric Schmidt la sfida è molteplice.
In sostanza, ha ribadito un sentimento comune ai leader tecnologici: se i sistemi autonomi in stile AGI sono inevitabili, una massiccia cooperazione tra aziende e governi su scala internazionale sarà essenziale per evitare conseguenze potenzialmente devastanti.
È più facile a dirsi che a farsi. L’intelligenza artificiale offre ai concorrenti statunitensi, come Cina, Russia e Iran, un potenziale vantaggio sugli Stati Uniti che sarebbe difficile da ottenere altrimenti.
Anche nel settore tecnologico c’è attualmente una massiccia concorrenza tra le grandi aziende – Google, Microsoft e altre – per sovraperformare i loro rivali, una situazione che aumenta i rischi intrinseci di protocolli di sicurezza inadeguati per far fronte a un’intelligenza artificiale dannosa, ha affermato Eric Schmidt.
“La concorrenza è così agguerrita che si teme che una delle aziende decida di omettere le misure [de sécurité] e immette sul mercato un prodotto veramente dannoso”, ha affermato Schmidt. Questo danno diventerà evidente solo dopo il fatto, ha aggiunto.
La sfida è ancora più grande sulla scena internazionale, dove i paesi avversari probabilmente considereranno la nuova tecnologia rivoluzionaria per i loro sforzi volti a sfidare l’egemonia globale degli Stati Uniti ed espandere la propria influenza.
“I cinesi sono intelligenti e comprendono il potere di un nuovo tipo di intelligenza per la loro potenza industriale, militare e il loro sistema di sorveglianza”, ha ricordato Schmidt.
È una sorta di dilemma per i leader americani in quest’area, che si trovano costretti a bilanciare le preoccupazioni esistenziali per l’umanità con il rischio che gli Stati Uniti rimangano indietro rispetto ai loro avversari, il che potrebbe rivelarsi catastrofico per la stabilità globale.
Nel peggiore dei casi, questi sistemi potrebbero essere utilizzati per produrre armi biologiche e nucleari paralizzanti, anche da parte di gruppi terroristici come l’Isis.
Ecco perché, secondo Schmidt, è assolutamente cruciale che gli Stati Uniti continuino a innovare in questo settore e, in ultima analisi, mantengano il loro dominio tecnologico sulla Cina e sugli altri stati e gruppi avversari.
I leader del settore chiedono una regolamentazione
La regolamentazione in questo settore resta insufficiente, ha sottolineato Schmidt. Ma si aspetta che l’attenzione del governo verso il miglioramento delle garanzie relative alla tecnologia acceleri in modo significativo nei prossimi anni.
Alla domanda del presentatore George Stephanopoulos se i governi stiano facendo abbastanza per regolamentare il settore, Eric Schmidt ha risposto: “Non ancora, ma lo faranno, perché devono farlo”.
Nonostante l’interesse iniziale per l’area – audizioni, proposte legislative e altre iniziative – emerso negli attuali 118e Congresso, questa sessione sembra destinata a concludersi senza alcuna importante legislazione relativa all’intelligenza artificiale.
Il presidente eletto Donald Trump, da parte sua, ha messo in guardia dai considerevoli rischi posti dall’intelligenza artificiale, affermando durante un’apparizione al podcast “Impaulsive” di Logan Paul che si tratta di uno “strumento davvero potente”.
Ha parlato anche della necessità di mantenere la competitività nei confronti degli avversari.
“Da questo nascono difficoltà, ma dobbiamo essere in prima linea”, ha detto Donald Trump. “Succederà, e se accadrà, dovremo avere un vantaggio sulla Cina. La Cina è la minaccia principale. »
Le opinioni di Schmidt sui vantaggi e sulle sfide di questa tecnologia sono in linea con le reazioni di altri operatori del settore.
Nel giugno 2024, OpenAI e i dipendenti di Google hanno firmato una lettera in cui mettevano in guardia sui “gravi rischi” posti dall’intelligenza artificiale e chiedevano una maggiore supervisione da parte del governo sul settore.
Elon Musk ha lanciato avvertimenti simili, affermando che Google sta cercando di creare un “Dio digitale” attraverso il suo programma DeepMind AI.
Ad agosto, queste preoccupazioni si sono intensificate dopo la scoperta di un’intelligenza artificiale in grado di agire autonomamente per evitare di essere smantellata, suscitando il timore che l’umanità stesse già perdendo il controllo della sua creazione a causa dell’inazione del governo.
Come puoi aiutarci a rimanere informati?
Epoch Times è un mezzo di informazione libero e indipendente, che non riceve alcun sostegno pubblico e non appartiene ad alcun partito politico o gruppo finanziario. Fin dalla nostra creazione, abbiamo dovuto affrontare attacchi ingiusti volti a mettere a tacere le nostre informazioni, in particolare sulle questioni relative ai diritti umani in Cina. Per questo contiamo sul vostro sostegno per difendere il nostro giornalismo indipendente e continuare, grazie a voi, a far conoscere la verità.
