Dell sta aggiungendo cinque server basati su AMD alla sua AI Factory, un portafoglio di infrastrutture e servizi per carichi di lavoro AI.
I nuovi server PowerEdge includono quattro modelli di processori AMD Epyc 9005 di quinta generazione: i modelli R6715 e R7715 a CPU singola e R6725 e R7725 a doppia CPU. Il quinto server, che utilizza anch’esso i nuovi processori AMD Epyc 9005, è l’XE7745 che può ospitare fino a otto GPU a doppia larghezza o 16 GPU a larghezza singola ed è progettato per l’inferenza (utilizzando modelli AI pre-addestrati).
Oltre al nuovo hardware, Dell ha anche rilasciato la versione 10 del software di gestione del server integrato Dell Remote Access Controller, che fornisce maggiore sicurezza con la crittografia a 256 bit. Fa parte dell’espansione AI Factory anche la nuova Dell Generative AI Solutions con AMD, che combina infrastruttura, software e servizi professionali. Dell ha inoltre ampliato la propria partnership con Hugging Face, una piattaforma open Source per modelli di formazione, per includere hardware basato su AMD, in modo che i clienti possano scegliere l’infrastruttura su cui costruire i propri modelli.
Secondo l’analista Anurag Agrawal della società di ricerca Techaisle, “l’investimento di Dell in AMD è giustificato dal fatto che offre prestazioni più elevate rispetto alle CPU Intel a un costo inferiore. Offre anche prestazioni per watt migliori rispetto ai processori Intel. »
“D’altra parte, mentre i nuovi server AMD espandono le opzioni hardware dell’offerta AI Factory di Dell, il fornitore deve ancora chiarire come le aziende possono utilizzarli al meglio. Dell AI Factory fornisce blocchi e moduli di infrastruttura costruibili per l’intelligenza artificiale, ma non come mettere tutto in musica. In una fabbrica dovremmo essere in grado di iniettare materie prime e ottenere un prodotto finale”, afferma, criticando la mancanza di un approccio chiavi in mano.
Server potenti progettati per le aziende
I quattro nuovi server della serie R basati su processori AMD sono progettati con sistemi hardware modulari per data center che consentono un migliore raffreddamento dell’aria, con entrambi i processori che rilasciano 500 W di potenza in uscita.
“Questa nuova architettura rappresenta un significativo passo avanti per entrambi i fornitori in termini di efficienza e densità energetica. I nuovi server non solo riducono i costi della CPU, ma riducono anche i costi energetici per prestazione”, commenta Camberley Bates, analista di Futurum Group.
“Sappiamo che i data center devono affrontare requisiti di alimentazione e raffreddamento per le implementazioni di intelligenza artificiale”, aggiunge. “Quindi è diventata una posizione competitiva per i fornitori di server.”
Dell ha affermato che i nuovi server offrono prestazioni record nei benchmark VMmark 4, una misura delle prestazioni di virtualizzazione, e TPCx-AI, una misura dei benchmark di machine learning. Ciò li renderebbe macchine ideali per l’intelligenza artificiale e l’analisi. Ma questi server possono essere utilizzati anche per eseguire database.
PowerEdge XE7745 è progettato per l’inferenza e l’ottimizzazione dei modelli AI. La serie XE, o accelerazione estrema, è destinata a carichi di lavoro ad alta intensità di dati, tra cui l’intelligenza artificiale e l’elaborazione ad alte prestazioni. Questa serie è iniziata con l’XE9680, lanciato nella seconda metà del 2023. Mentre l’XE9680 si basa su CPU Intel, PCIe 5.0 per la connettività di rete.
L’XE7745 è destinato ai carichi di lavoro AI locali. “I settori regolamentati, come quello bancario e sanitario, non possono utilizzare il cloud per fare inferenze. Dell vuole essere pronta quando i casi d’uso arriveranno nei data center locali”, afferma Anurag Agrawal.
I servizi professionali si estendono ai modelli AMD
Oltre all’hardware e al software, Dell AI Factory offre servizi professionali come configurazioni Kubernetes, framework di distribuzione dell’intelligenza artificiale e best practice per il ROI. Dell ha ora esteso questa offerta agli ambienti AMD.
“La strategia generale di Dell è soddisfare la scelta del cliente. Il suo reparto servizi organizza un workshop di accelerazione e poi dà la scelta dell’attrezzatura. Questa scelta si basa sui costi e sui tempi di disponibilità”, afferma Anurag Agrawal. Storicamente, le configurazioni AMD sono più economiche, mentre le configurazioni Intel sono disponibili più rapidamente.
Per quanto lo riguarda, il PowerEdge XE9680 basato su processori Intel può essere accompagnato da GPU AMD sin dal suo rilascio. La novità è che ora include le soluzioni Dell Generative AI con AMD, nonché il portale Dell Enterprise Hub sul portale Hugging Face, per installare LLM. Nello specifico, il portale Hugging Face-Dell ora supporterà il server con acceleratori AMD Instinct MI300X per l’implementazione del modello on-premise.
