XALIMANEWS- In un’intervista trasmessa sulla sua piattaforma X, Elon Musk ha sollevato il problema della carenza di dati per l’addestramento dell’intelligenza artificiale. La soluzione risiederebbe nei dati sintetici, il che non è privo di rischi…
Tutta la conoscenza dell’umanità non è più sufficiente per addestrare l’intelligenza artificiale. Questa è l’affermazione di Elon Musk nel corso di una conversazione con Mark Penn, presidente e amministratore delegato di Stagwell, trasmessa in diretta su X (ex Twitter). Il problema della carenza di dati è uno dei principali punti deboli degli attuali modelli linguistici di grandi dimensioni, di cui si discute da tempo.
« Ora abbiamo esaurito la somma cumulativa della conoscenza umana… nell’addestramento dell’IAha dichiarato il miliardario. Questo è successo l’anno scorso. » Secondo molti specialisti, tra cui Elon Musk, la soluzione sta nei dati sintetici. Ciò significa che le IA dovranno essere addestrate sui dati generati dall’IA e valutare se stesse.
Verso un collasso dei modelli di intelligenza artificiale causato dai dati sintetici?
L’uso di dati sintetici non è una novità. Oltre a superare la carenza di dati, ciò riduce anche i costi di formazione. La startup Writer afferma di essere riuscita a ridurre il costo di addestramento del suo modello Palmyra X 004 a 700.000 dollari, rispetto a una fattura di 4,6 milioni di dollari se non avesse utilizzato dati sintetici. Microsoft ha indicato di aver utilizzato dati sintetici per il suo modello aperto Phi-4, così come Google con il suo modello Gemma, Anthropic con Claude 3.5 Sonnet e Meta con Llama.
Uno dei problemi, menzionato da Musk, è il rischio di allucinazioni. Cosa succede quando un’intelligenza artificiale viene addestrata sui dati prodotti da un’altra intelligenza artificiale che contengono errori? L’intelligenza artificiale degenera, in un fenomeno chiamato collasso del modello, o collasso del modello. Il rischio è una riduzione della creatività e un aumento dei pregiudizi, che potrebbero costringere le aziende a ripensare il modo in cui vengono progettati i grandi modelli linguistici.
