AMD Radeon 7900 XTX offre prestazioni IA più generative per dollaro rispetto a NVIDIA RTX 4080 dopo un aumento di velocità del 990%

NVIDIA sta assolutamente dominando la conversazione sull’IA in questo momento e per una buona ragione: le loro GPU funzionano perfettamente e sono la scelta migliore per professionisti e aziende che vogliono entrare nell’IA mainstream. Ma questa settimana, Intel e AMD hanno ottimizzato i loro stack software per ottenere enormi accelerazioni nell’IA generativa, che ha consentito all’AMD RTX 7900 XTX di ottenere prestazioni per dollaro più elevate rispetto a una NVIDIA RTX 4080. nell’IA generativa (più precisamente Stable Diffusion con A111). Dato che Stable Diffusion attualmente rappresenta la stragrande maggioranza dell’IA generativa non SaaS e localizzata, questo è un passo importante e offre finalmente una certa concorrenza a NVIDIA.

AMD 7900 XTX raggiunge iterazioni più elevate al secondo per dollaro in Stable Diffusion rispetto a NVIDIA RTX 4080

Utilizzando Microsoft Olive e DirectML invece dell’attraversamento PyTorch, l’AMD 7900 XTX passa da un modesto 1,87 iterazioni al secondo a 18,59 iterazioni al secondo! Puoi leggere il guida dettagliata di AMD qui. Questo livello di prestazioni in Automatic111 è abbastanza vicino all’approccio basato su SHARK per Stable Diffusion e pone decisamente l’azienda sulla mappa dell’IA generativa. Si scopre anche che il 7900 XTX offre prestazioni GenAI leggermente migliori per dollaro rispetto al comparativo RTX 4080, almeno ai prezzi attuali.

La NVIDIA RTX 4080 più economica che ho trovato su Newegg (al 19/08/2023) è stata la MSI Ventus GeForce RTX 4080 16GB (link archiviato WBM qui) e la AMD Radeon 7900 XTX I più economica che sono riuscito a trovare su Newegg è stata la MSI Gaming Radeon RX 7900 XTX 24GB (Link archiviato WBM qui). Prima di arrivare ai numeri, voglio menzionare il seguente avvertimento: a differenza di NVIDIA, il percorso AMD richiede un po’ più di abilità tecnica (il percorso AMD utilizza Microsoft Olive invece di PyTorch e la maggior parte degli autoinstallatori probabilmente non si installano non hanno automaticamente le dipendenze richieste per questo) – quindi se la semplicità è un fattore per te – NVIDIA è ancora la scelta giusta. Ma i professionisti e le piccole imprese di solito possono aggirare la seccatura della configurazione iniziale se la base dei costi è abbastanza buona, e questo sembra essere il caso qui.

Come possiamo vedere, il silicio AMD sta finalmente iniziando a brillare in GenAI al punto da offrire un valore migliore rispetto al 4080 nello stablecast. AMD 7900 XTX offre 18,59 iterazioni al secondo, il che fa pagare agli utenti $ 52,1 per ips, mentre NVIDIA RTX 4080 ottiene 19,41 iterazioni al secondo, il che fa pagare agli utenti $ 56,6 $ per it/s. Se gli utenti optano per l’implementazione SHARK meno comune, possono ridurre la proposta di valore a soli $ 46,6 per it/s per Radeon 7900 XTX. Quindi è ufficiale: AMD è ufficialmente un concorrente per i consumatori interessati all’IA generativa.

Indica anche che se AMD riceve un po’ più di attenzione, potrebbe essere un forte contendente per le ambizioni AI di NVIDIA. La maggior parte delle persone non eseguirà LLM nel proprio seminterrato, ma GenAI e SLM/ULM saranno assolutamente ovunque nei prossimi 12 mesi e parte di molti flussi di lavoro di produttività. Il modo in cui Intel e AMD si posizionano in un mercato in cui NVIDIA ha un enorme vantaggio iniziale determinerà il loro successo in un mondo che sarà dominato dall’IA.

Trova il video di uno dei nostri colleghi hardware della settimana:

Di seguito, le nostre guide all’ottimizzazione, tra cui: Ottimizza Windows 11 per i giochi – Ottimizza Windows 10 per i giochi – Come ridurre la latenza – Stock PS5