NVIDIA sta assolutamente dominando la conversazione sull’IA in questo momento e per una buona ragione: le loro GPU funzionano perfettamente e sono la scelta migliore per professionisti e aziende che vogliono entrare nell’IA mainstream. Ma questa settimana, Intel e AMD hanno ottimizzato i loro stack software per ottenere enormi accelerazioni nell’IA generativa, che ha consentito all’AMD RTX 7900 XTX di ottenere prestazioni per dollaro più elevate rispetto a una NVIDIA RTX 4080. nell’IA generativa (più precisamente Stable Diffusion con A111). Dato che Stable Diffusion attualmente rappresenta la stragrande maggioranza dell’IA generativa non SaaS e localizzata, questo è un passo importante e offre finalmente una certa concorrenza a NVIDIA.
AMD 7900 XTX raggiunge iterazioni più elevate al secondo per dollaro in Stable Diffusion rispetto a NVIDIA RTX 4080
Utilizzando Microsoft Olive e DirectML invece dell’attraversamento PyTorch, l’AMD 7900 XTX passa da un modesto 1,87 iterazioni al secondo a 18,59 iterazioni al secondo! Puoi leggere il guida dettagliata di AMD qui. Questo livello di prestazioni in Automatic111 è abbastanza vicino all’approccio basato su SHARK per Stable Diffusion e pone decisamente l’azienda sulla mappa dell’IA generativa. Si scopre anche che il 7900 XTX offre prestazioni GenAI leggermente migliori per dollaro rispetto al comparativo RTX 4080, almeno ai prezzi attuali.
La NVIDIA RTX 4080 più economica che ho trovato su Newegg (al 19/08/2023) è stata la MSI Ventus GeForce RTX 4080 16GB (link archiviato WBM qui) e la AMD Radeon 7900 XTX I più economica che sono riuscito a trovare su Newegg è stata la MSI Gaming Radeon RX 7900 XTX 24GB (Link archiviato WBM qui). Prima di arrivare ai numeri, voglio menzionare il seguente avvertimento: a differenza di NVIDIA, il percorso AMD richiede un po’ più di abilità tecnica (il percorso AMD utilizza Microsoft Olive invece di PyTorch e la maggior parte degli autoinstallatori probabilmente non si installano non hanno automaticamente le dipendenze richieste per questo) – quindi se la semplicità è un fattore per te – NVIDIA è ancora la scelta giusta. Ma i professionisti e le piccole imprese di solito possono aggirare la seccatura della configurazione iniziale se la base dei costi è abbastanza buona, e questo sembra essere il caso qui.
Leggere : Intel conferma i P-Core Lion Cove e gli E-Core Skymont per le CPU Lunar Lake di nuova generazione
| GPU | Prezzo di mercato | Configurazione | Prestazioni SD (it/s) | Dollari spesi per it/s |
|---|---|---|---|---|
| Nvidia RTX 4080 | $ 1099 | A111 (PyTorch) | 19:41* | $ 56,6 |
| AMD Radeon 7900 XTX | $ 969 | A111 (Oliva Microsoft) | 18.59 | $ 52,1 |
| AMD Radeon 7900 XTX | $ 969 | SQUALO | 20.76* | $ 46,6 |
| *= dati tratti dal confronto dei sistemi Puget pubblicato il 31 luglio 2023. | ||||
Come possiamo vedere, il silicio AMD sta finalmente iniziando a brillare in GenAI al punto da offrire un valore migliore rispetto al 4080 nello stablecast. AMD 7900 XTX offre 18,59 iterazioni al secondo, il che fa pagare agli utenti $ 52,1 per ips, mentre NVIDIA RTX 4080 ottiene 19,41 iterazioni al secondo, il che fa pagare agli utenti $ 56,6 $ per it/s. Se gli utenti optano per l’implementazione SHARK meno comune, possono ridurre la proposta di valore a soli $ 46,6 per it/s per Radeon 7900 XTX. Quindi è ufficiale: AMD è ufficialmente un concorrente per i consumatori interessati all’IA generativa.
Indica anche che se AMD riceve un po’ più di attenzione, potrebbe essere un forte contendente per le ambizioni AI di NVIDIA. La maggior parte delle persone non eseguirà LLM nel proprio seminterrato, ma GenAI e SLM/ULM saranno assolutamente ovunque nei prossimi 12 mesi e parte di molti flussi di lavoro di produttività. Il modo in cui Intel e AMD si posizionano in un mercato in cui NVIDIA ha un enorme vantaggio iniziale determinerà il loro successo in un mondo che sarà dominato dall’IA.
Leggere : Il nuovo display all’avanguardia Samsung Odyssey Neo G9 sarà lanciato il 23 agosto
Trova il video di uno dei nostri colleghi hardware della settimana:
Fonti: VideoCardz, WCCF Tech
Di seguito, le nostre guide all’ottimizzazione, tra cui: Ottimizza Windows 11 per i giochi – Ottimizza Windows 10 per i giochi – Come ridurre la latenza – Stock PS5
