Nvidia potenzia l’intelligenza artificiale locale su PC con i suoi chip grafici RTX

Nvidia potenzia l’intelligenza artificiale locale su PC con i suoi chip grafici RTX
Nvidia potenzia l’intelligenza artificiale locale su PC con i suoi chip grafici RTX
-

Nvidia non intende lasciare i riflettori su Microsoft e Qualcomm per l’IA su PC. Il produttore americano intende dimostrare la potenza dei suoi chip grafici RTX con un nuovo driver che migliora drasticamente le loro prestazioni nelle applicazioni AI locali.

Il mondo dei PC è in pieno fermento negli ultimi giorni, in seguito ai recenti annunci di Microsoft che inaugurano l’era dei “PC AI”, sotto l’egida della sua nuova etichetta Copilot+. Questi nuovi tipi di personal computer, che integrano una moltitudine di servizi e funzioni di intelligenza artificiale nel cuore stesso del sistema operativo, promettono di rivoluzionare il modo in cui utilizziamo e interagiamo con i nostri PC. E che tu sia un appassionato precoce, uno scettico incallito o semplicemente curioso, la diversità dei casi d’uso presentati da Microsoft non può lasciarti indifferente.

Per avviare questa rivoluzione, l’azienda di Redmond ha deciso di affidarsi innanzitutto ai nuovissimi processori, progettati dall’americana Qualcomm, agli Snapdragon X Elite e X Plus. Questi chip hanno due caratteristiche principali: sono progettati secondo un’architettura Arm, invece della veneranda x86, e contengono un’unità specializzata in operazioni legate all’iA, la famosa NPU (Neural Processing Unit o Processing Unit neuronal, in francese), capace di offrire una potenza di calcolo di 45 TOPS, un livello mai raggiunto fino ad ora per un processore di tipo all-in-one (system-on-chip, o SoC per system-on-chip).

Con i suoi annunci e il lancio dei PC Copilot+, Microsoft diffonde quindi l’idea che l’intelligenza artificiale sia strettamente legata a Qualcomm, Arm e NPU, almeno nell’ecosistema Windows. Questi però non sono gli unici player né le uniche tecnologie in grado di offrire elevate prestazioni in termini di intelligenza artificiale. Dobbiamo anche tenere conto di Nvidia, che progetta e commercializza, da anni e ben prima di altri, componenti particolarmente efficaci in questo ambito, attraverso la sua piattaforma RTX, che designa sia le omonime schede grafiche ben note ai videogiocatori, giganti, super- potenti processori per server e una serie di strumenti software per lo sviluppo.

Nvidia R555 Game Ready: un nuovo driver per potenziare l’esecuzione locale delle funzioni AI

Questo è il nuovo nerbo della guerra nell’era dei PC IA che sta nascendo. Ora che il grande pubblico ha scoperto e adottato, almeno in parte, gli strumenti di intelligenza artificiale generativa, è tempo di spostare questi servizi dal cloud alle macchine degli utenti. Questo è lo scopo dell’etichetta PC Copilot+ e dei processori Snapdragon X Series dotati di NPU sovralimentate. Ma Nvidia, che si è affermata come l’attuale campione in termini di componenti hardware dedicati all’intelligenza artificiale, non sembra voler rimanere indietro in questa transizione e intende tornare in prima linea.

Nell’ambito della conferenza annuale di Microsoft dedicata agli sviluppatori, Microsoft Build, il produttore ha appena annunciato il rilascio del driver Nvidia Game Ready R555 per le sue schede grafiche RTX, con la promessa di miglioramenti molto significativi delle prestazioni legate all’intelligenza artificiale, sia per gli sviluppatori che per gli utenti : “Modelli linguistici di grandi dimensioni (LLM) […] ora funziona fino a tre volte più velocemente […] utilizzando il nuovo driver NVIDIA R555 Game Ready.

Per offrire questo livello di prestazioni, il nuovo driver prevede il supporto a due componenti software, ONNX Runtime e DirectML, la cui funzione è duplice: accelerare la catena di elaborazione delle operazioni iA affidando il massimo dei calcoli alla GPU anziché alla CPU (ONNX Runtime ) e consentire alla GPU di essere vista come una sorta di NPU dal sistema operativo (DirectML), in modo che tutte le applicazioni AI possano indirizzarla direttamente, senza richiedere un’implementazione specifica delle tecnologie RTX da parte degli sviluppatori.

L’obiettivo di questo driver è quindi sia quello di aumentare drasticamente le prestazioni in termini di esecuzione dell’IA locale, sia di rendere la potenza di calcolo della GPU molto più accessibile a sviluppatori e applicazioni. A sostegno delle sue affermazioni, Nvidia pubblica un piccolo grafico che mostra i miglioramenti prestazionali ottenuti dall’inferenza (esecuzione, invece che training) di tre Large Language Models (LLM), con il nuovo driver R555 rispetto al precedente. I progressi sembrano davvero impressionanti, anche se le misurazioni vengono effettuate su una GPU RTX 4090, una scheda di fascia alta estremamente costosa e poco diffusa.

Tenendo presente che questi dati sono forniti dall’azienda stessa e che sarà quindi necessario verificare questi risultati in una situazione reale, con diversi modelli di circuiti RTX e applicazioni AI che fanno affidamento su diversi LLM, questa comunicazione conferma almeno una cosa: Nvidia non vuole accontentarsi di essere presente nel campo dei server e della formazione di modelli IA, ma vuole affermarsi come attore chiave nell’aspetto dell’esecuzione di servizi IA locali, direttamente sulle macchine degli utenti.

I circuiti RTX offrono già, e da diversi anni, numerose applicazioni concrete basate sull’AI. Nei videogiochi, ad esempio, il DLSS riunisce un insieme di tecniche di ridimensionamento, generazione di immagini e miglioramento del rendering grafico basate sull’apprendimento automatico (apprendimento approfondito). Lanciata più di recente, la tecnologia Nvidia ACE utilizza Large Language Models (LLM) per generare dialoghi interattivi in ​​tempo reale con personaggi non giocanti nei giochi. Dal punto di vista creativo, i chip RTX accelerano molti strumenti AI in applicazioni molto popolari come Adobe Premiere, DaVinci Resolve o Blender. E l’applicazione Nvidia Broadcast offre numerose elaborazioni in tempo reale per audio e video – e persino effetti sorprendenti – su PC dotati di chip RTX.

Sono quindi già molti gli usi concreti dell’AI nell’ecosistema RTX, comparsi ben prima della mania generale per l’AI generativa, e il nuovo driver Game Ready R555 ne migliorerà quindi ulteriormente il funzionamento. Si tratta di una prospettiva interessante, perché i chip di Nvidia saranno in grado di potenziare un’ampia gamma di applicazioni di intelligenza artificiale, oltre a quelle integrate in Windows con Copilot+. C’è da sperare che editori e sviluppatori approfittino di questi strumenti per sfruttare la potenza dei chip RTX in nuove funzioni basate sull’intelligenza artificiale, nel campo del gaming, come nelle applicazioni creative professionali, nella grafica, nel 3D, nell’audio e nel video.

AI con RTX: più potente dei PC Copilot+?

In effetti, i chip grafici Nvidia RTX offrono livelli molto più elevati di prestazioni di inferenza AI rispetto ai processori dotati di NPU, sia la serie Qualcomm Snapdragon X che i prossimi Intel Lunar Lake e AMD Strix. Per avere un’idea di questa differenza, l’attuale Intel Core Ultra raggiunge una potenza massima di 34 trilioni di operazioni al secondo (TOPS) e gli Snapdragon X Elite e X Plus, 45 TOPS, dove una GPU RTX 4050 in versione laptop, la modello più piccolo della gamma, arriva già a 194 TOP. E per quanto riguarda la mostruosa RTX 4090 in versione desktop, vola fino a 1.300 TOP!

Questi punteggi impressionanti sono quindi ben al di sopra del requisito minimo di 40 TOPS fissato da Microsoft per rivendicare il titolo di PC Copilot+. Tuttavia, questa potenza eccessiva non è priva di compensazione e ha il prezzo di un consumo energetico molto maggiore rispetto a quello dei processori dotati di una semplice NPU. E questo divario in termini di efficienza energetica si sta ampliando ulteriormente con la Serie Snapdragon X, chip con architetture Arm la cui caratteristica principale è proprio il bassissimo consumo energetico.

Se la potenza di calcolo delle GPU RTX di Nvidia consente quindi di affrontare senza problemi le applicazioni AI più pesanti ed esigenti, il loro consumo energetico non le rende le migliori candidate nel settore dei PC portatili, in cui l’efficienza energetica è un fattore altrettanto importante quanto energia.

©Nvidia

Un aspetto che Microsoft sembra avere in mente nella definizione della sua etichetta Copilot+ per PC, e uno dei motivi per cui l’azienda riserva per il momento questo nome solo alle macchine dotate di processore Snapdragon X Series, come si legge in questa dichiarazione. nell’annuncio di lunedì scorso: “I primi PC Copilot+ verranno lanciati con Snapdragon X Elite e Snapdragon “.

Tuttavia, l’azienda aggiunge nel paragrafo seguente: “Le nuove esperienze Copilot+ PC verranno rilasciate presto. Saranno presto disponibili nuovi dispositivi dotati di questo processore abbinato a potenti schede grafiche come NVIDIA GeForce RTX e AMD Radeon, rendendo i PC Copilot+ accessibili a un pubblico ancora più ampio”. Comprendiamo quindi molto chiaramente che il campo dei PC targati Copilot+ è destinato ad evolversi e che le macchine dotate di schede grafiche Nvidia RTX potrebbero ottenere il famoso sesamo, a condizione che siano associate a un processore centrale a risparmio energetico.

Se le GPU RTX di Nvidia dispongono quindi dell’ampia potenza di calcolo necessaria per eseguire localmente le funzioni Copilot+ AI, l’ottenimento dell’etichetta stessa sfugge al suo controllo e dipende interamente da Microsoft, per considerazioni sicuramente più politiche e commerciali piuttosto che propriamente tecniche.

Ma l’idea da ricordare è questa: se siete interessati ai nuovi utilizzi dell’intelligenza artificiale, possedete un computer con scheda grafica Nvidia RTX e gli annunci di Microsoft sui PC Copilot+ vi hanno immerso nei dubbi, state tranquilli. Il tuo PC è tutt’altro che obsoleto e non c’è bisogno di esaurirsi e acquistare un computer nuovo di zecca dotato di un processore con NPU per utilizzare localmente le nuove applicazioni di intelligenza artificiale generativa. Se l’attenzione dei media è attualmente focalizzata su alcuni termini come Arm e NPU, ci sono altri percorsi tecnologici altrettanto seri e rilevanti per promuovere questi nuovi usi e supportare la trasformazione in corso del personal computing.

-

PREV Chat GPT 4 supera con successo il test di Turing, vi spiego perché è storico
NEXT Umorismo nascosto, l’arma segreta degli sviluppatori di software