AMD sta togliendo i guanti nella battaglia delle IA | ENBLE
AMD si sta preparando a combattere senza riserve nella guerra delle IA | ENBLE
AMD sembra pronta a combattere. Nel suo evento Advancing AI, l’azienda ha finalmente lanciato la sua GPU Instinct MI300X AI, di cui avevamo sentito parlare qualche mese fa. Lo sviluppo interessante è la performance che AMD afferma rispetto all’elefante verde dell’AI in stanza: Nvidia.
Specifiche per specifiche, AMD sostiene che la MI300X supera la GPU H100 AI di Nvidia in capacità di memoria e banda di memoria, ed è in grado di offrire una performance teorica 1,3 volte superiore rispetto alla H100 nelle operazioni FP8 e FP16. AMD ha dimostrato ciò con due Large Language Models (LLM) utilizzando un kernel di dimensioni medie e grandi. La MI300X ha mostrato un miglioramento tra l’1,1x e l’1,2x rispetto alla H100.
In un momento che sembra uscito dritto da una conferenza Nvidia, la CEO di AMD Lisa Su ha presentato la piattaforma MI300X, che combina otto delle GPU su una singola scheda. AMD afferma che queste schede offrono le stesse prestazioni di allenamento dell’H100 HGX di Nvidia e una performance di inferenza 1,6 volte superiore. Inoltre, AMD sostiene che è possibile eseguire due LLM per sistema, mentre H100 HGX può gestirne solo uno.
Per illustrare quanto sia importante questo, AMD ha portato sul palco il Chief Technology Officer di Microsoft, Kevin Scott, per parlare di come AMD e Microsoft stanno lavorando insieme sull’AI. È importante sottolineare che il popolarissimo ChatGPT viene eseguito su server Microsoft ed è stato originariamente addestrato su migliaia di GPU Nvidia.
Oltre alla MI300X, AMD ha annunciato la MI300A, che è la prima APU per l’AI secondo AMD. Questa combina l’architettura CDNA 3 AI GPU di AMD con 24 core CPU Zen 4, insieme a 128 GB di memoria HBM3. AMD afferma che si tratta di un equilibrio tra prestazioni AI e calcolo ad alte prestazioni, offrendo la potenza della CPU che abbiamo visto di recente su Threadripper 7000 nei data center.
- Google Gemini tenta di sorpassare ChatGPT con IA per foto e video
- Cosa fare quando finisci lo spazio di archiviazione di Gmail | ENBLE
- La versione beta aperta di KDE Plasma 6 offre una miriade di delizi...
Nonostante si sia unita al carro dell’AI insieme al resto del mondo tecnologico, AMD fino a questo punto è rimasta indietro rispetto a Nvidia. Nvidia ha iniziato a investire massicciamente nell’AI anni fa, dando loro un’enorme vantaggio su AMD e Intel. Quell’investimento iniziale ha fatto di Nvidia una società da trilioni di dollari quest’anno.
Con un cluster di GPU che si posiziona per sfidare l’H100 di Nvidia, oltre a partnership con Meta e Microsoft, AMD sta finalmente entrando nell’arena. AMD potrebbe uscire ferita e sanguinante, ma sembra comunque pronta a lottare.
