A proposito, come fa ChatGPT a comprendere e rispondere alle mie domande?

A proposito, come fa ChatGPT a comprendere e rispondere alle mie domande?
Descriptive text here
-

Partiamo dall’inizio: si pensava che l’intelligenza artificiale fosse una replica del cervello umano. L’intelligenza artificiale dovrebbe pensare e apprendere come gli esseri umani, e farlo in modo autonomo, cioè senza essere esplicitamente programmata per farlo. L’intelligenza artificiale è chiamata “generativa” quando è in grado di creare contenuti (testo, immagine, suono) da questo apprendimento.

Fino ad allora, seguici. Adesso aspetta, stiamo entrando nel covo della macchina.

In che modo ChatGPT risponde alle mie domande?

Diciamo che chiedo “Chi sono io?” » su ChatGPT. L’IA trasformerà ogni parola in una serie di numeri, chiamati “vettori”. Questa domanda è quindi composta da più vettori, che traducono sia il significato di ogni parola, la loro associazione sia il contesto della domanda (ad esempio, i precedenti scambi che ho avuto con ChatGPT).

Questi vettori attraversano una moltitudine di “strati di neuroni” (che elaborano le informazioni) e “strati di attenzione” (che li ordinano e danno priorità). Quindi, l’IA offre la sua risposta. Inizia sempre con una prima parola (un vettore trasformato nuovamente in una parola). Poi ne scrive una seconda, che giudica più probabile da collocare accanto a questa prima parola, sempre a seconda del contesto. Ad esempio, se parliamo di un albero, aumenta la probabilità che poi parliamo di una foglia. E così via.

Nel nostro esempio, ChatGPT risponde in quattro secondi: “Sei te stesso, unico e insostituibile! »… Ehm mamma, sei tu?

Come ha fatto l’intelligenza artificiale a diventare così intelligente?

Torniamo indietro: associare albero e foglia è qualcosa che l’IA ha imparato da sola. Be ‘quasi. Gli scienziati hanno inizialmente progettato modelli matematici per mostrargli come apprendere (questo è l’apprendimento automatico). Poi l’AI è stata addestrata su una quantità molto grande di dati, ad esempio tutto quello che si trova su internet (si parla di deep learning). Dovendo confrontarsi con situazioni diverse, l’IA dava più o meno importanza alle parole a seconda del contesto. Da questo apprendimento, il modello ChatGPT ha sviluppato da solo 175 miliardi di parametri che gli consentono di prendere decisioni.

Ok, quindi l’IA vive la sua vita tranquillamente nel suo angolino? Infatti, è l’impostazione autonoma di questi parametri che fa dire ad Alexandre Défossez, ricercatore di intelligenza artificiale presso il laboratorio francese Kyutai, che lo strumento è effettivamente “una scatola nera”. Se scattiamo una foto del processo nel bel mezzo di un calcolo, lo siamo “incapace di interpretare le sequenze di numeri che abbiamo davanti”, lui spiega. Impossibile dirlo “in quel momento l’IA esegue questa azione”. Conclude: “Da qui una certa forma di antropomorfismo (quando attribuiamo caratteristiche umane a qualcosa, ndr) quando parliamo di questi modelli. Perché ci sorprendono noi stessi! »

A volte ci sorprendono anche con la loro stupidità. L’intelligenza artificiale ha molti pregiudizi. In questione, le righe di codici, scritte da esseri umani che hanno essi stessi dei pregiudizi, e i dati forniti per la formazione, che non sono sempre di buona qualità (un Premio Nobel per la letteratura VS la scrittura di mio nipote di 6 anni). Il tasso di allucinazioni (risposte false o fuorvianti) varia molto a seconda del modello, dal 3% (GPT4) al 27% (Google Palm-Chat), secondo uno studio pubblicato alla fine del 2023 da Vectara, una startup americana. lanciato da ex dipendenti di Google.

E per generare un’immagine tramite AI?

Il modello è simile a quello di un testo. Ogni pixel corrisponderà ad un vettore. Per generare l’immagine di un simpatico gattino di cui Internet va pazzo, l’intelligenza artificiale prevede i valori dei pixel nello stesso modo in cui prevede l’importanza e il valore delle parole per poterli associare tra loro , a seconda del contesto. Il modello si allena anche su un numero astronomico di immagini (fino a 5 miliardi di immagini per il database pubblico e gratuito LAION). Ciò gli consente di impostare i propri parametri, fare le sue previsioni e produrre le sue “opere” (c’è dibattito su questa parola, ma hai un’idea).

Quando la macchina macina: concretamente, dove avviene?

I diversi modelli di IA (ChatGPT, Bard, Gemini, Midjourney, ecc.) vengono addestrati su “cluster”, vale a dire un insieme di macchine dotate di chip grafici, le famose “GPU” (Graphics Processing Unit). Queste macchine si trovano nei data center. Secondo EY ce ne sono almeno 250 solo in Francia. E migliaia in tutto il mondo. Il laboratorio francese Kyutai, che mira a creare un chatGPT francese, non dispone di un proprio data center ma affitta uno spazio nel data center dell’Ile-de-France della società Scaleway (filiale di Iliad, società madre di Free).

“Per creare la nostra IA, abbiamo un cluster di 128 macchine, ciascuna con 8 chip. Queste due cifre moltiplicate, fanno più di 1.000 GPU in totale”, spiega Alexandre Défossez. Il che corrisponde, ci spiega, a 1.000 radiatori elettrici costantemente accesi. Elettricità, raffreddamento dei data center (tramite aria condizionata), produzione di componenti elettronici… L’intelligenza artificiale assorbe molta energia.

Una volta addestrato il modello, consuma meno per rispondere semplicemente alle domande. Ma con oltre 180 milioni di utenti mensili dichiarati su ChatGPT, ciò solleva domande, calcoli nel modello e data center che si surriscaldano…

-

PREV Sophie Turner sulla scena di Joe Jonas: “War nie stark genug”
NEXT Calcio – Ligue 2. Possibile proseguimento, Thomas Callens titolare, Lucas Buades assente…: cosa sapere prima di Rodez