Super Micro Computer kondigt met trots de nieuwste NVIDIA GH200 Grace Hopper en NVIDIA Grace CPU Superchip aan. Deze baanbrekende aankondiging introduceert een nieuwe modulaire architectuur die is ontwikkeld om AI-infrastructuur en versnelde computing te standaardiseren, en dit alles verpakt in compacte 1U en 2U form factors. Tegelijkertijd biedt deze architectuur ongekende flexibiliteit en uitbreidingsmogelijkheden voor zowel huidige als toekomstige GPU’s, DPU’s en CPU’s.
Wat deze aankondiging nog indrukwekkender maakt, is de geavanceerde vloeistofkoelingstechnologie van Supermicro, waardoor grote high-density configuraties mogelijk worden. Denk hierbij aan een 1U 2-node configuratie met maar liefst 2 NVIDIA GH200 Grace Hopper Superchips, naadloos geïntegreerd met behulp van een high-speed interconnect. Bovendien heeft Supermicro de capaciteit om maandelijks duizenden rack-scale AI-servers te leveren vanuit faciliteiten over de hele wereld, en ze garanderen een Plug-and-Play compatibiliteit die zorgt voor een moeiteloze implementatie.
“Supermicro is een erkend leider in de huidige AI-revolutie, met een focus op het transformeren van datacenters om de belofte van AI te vervullen voor diverse workloads,” aldus Charles Liang, president en CEO van Supermicro. “Voor ons is het van cruciaal belang om systemen te leveren die zeer modulair, schaalbaar en universeel zijn, met het oog op de snelle ontwikkeling van AI-technologieën. De NVIDIA MGX-gebaseerde oplossingen van Supermicro illustreren dat onze building-block strategie ons in staat stelt om snel de nieuwste systemen op de markt te brengen, die bovendien de meest geoptimaliseerde workloads in de industrie ondersteunen. In samenwerking met NVIDIA versnellen we de time-to-market voor ondernemingen, waardoor ze in staat zijn om nieuwe AI-toepassingen te ontwikkelen, de implementatie te vereenvoudigen en de milieu-impact te verminderen. Deze reeks nieuwe servers bevat de nieuwste industrietechnologie, geoptimaliseerd voor AI, met inbegrip van NVIDIA GH200 Grace Hopper Superchips, BlueField en PCIe 5.0 EDSFF-slots.”
“NVIDIA en Supermicro werken al lange tijd samen aan enkele van de best presterende AI-systemen die er zijn,” aldus Ian Buck, vicepresident hyperscale en HPC bij NVIDIA. “Het NVIDIA MGX modulaire referentieontwerp, gecombineerd met Supermicro’s server expertise, zal nieuwe generaties AI-systemen creëren die onze Grace en Grace Hopper Superchips bevatten waar klanten en industrieën wereldwijd van zullen profiteren.”
Supermicro’s NVIDIA MGX platform overzicht Supermicro’s NVIDIA MGX-platforms zijn ontworpen om een reeks servers te leveren die geschikt zijn voor toekomstige AI-technologieën. Deze nieuwe productlijn richt zich op de unieke thermische, stroom- en mechanische uitdagingen van AI-servers.
Supermicro’s nieuwe NVIDIA MGX lijn van servers omvat:
- ARS-111GL-NHR – 1 NVIDIA GH200 Grace Hopper Superchip, luchtgekoeld
- ARS-111GL-NHR-LCC – 1 NVIDIA GH200 Grace Hopper Superchip, vloeistofgekoeld
- ARS-111GL-DHNR-LCC – 2 NVIDIA GH200 Grace Hopper Superchips, 2 nodes, vloeistofgekoeld
- ARS-121L-DNR – 2 NVIDIA Grace CPU Superchips in elk van 2 Nodes, 288 cores in totaal
- ARS-221GL-NR – 1 NVIDIA Grace CPU Superchip in 2U
- SYS-221GE-NR – Dual-socket 4e gen. Intel Xeon Scalable processors met tot 4 NVIDIA H100 Tensor Core of 4 NVIDIA PCIe GPU’s.
Elk MGX-platform kan worden uitgebreid met NVIDIA BlueField®-3 DPU en/of NVIDIA ConnectX®-7 interconnects voor krachtige InfiniBand- of Ethernet-netwerken.
Technische specificaties Supermicro’s 1U NVIDIA MGX systemen zijn uitgerust met tot wel 2 NVIDIA GH200 Grace Hopper Superchips, elk voorzien van 2 NVIDIA H100 GPU’s en 2 NVIDIA Grace CPU’s. Elk systeem wordt geleverd met 480 GB LPDDR5X geheugen voor de CPU, en 96 GB HBM3 of 144 GB HBM3e geheugen voor de GPU. Een opvallend kenmerk is de NVIDIA-C2C connectiviteit, die geheugen coherente communicatie mogelijk maakt, met hoge bandbreedte en lage latentie. Deze verbindt de CPU, GPU en het geheugen met een indrukwekkende snelheid van 900GB/s, wat maar liefst 7 keer sneller is dan PCIe 5.0. De modulaire architectuur van deze systemen biedt tevens meerdere PCIe 5.0 x16 FHFL-slots, waardoor de mogelijkheid ontstaat om DPU’s voor Cloud- en gegevensbeheer te integreren, evenals uitbreidingsmogelijkheden voor extra GPU’s, netwerken en opslag.
Met het 1U 2-node ontwerp met 2 NVIDIA GH200 Grace Hopper Superchips kunnen de bewezen direct-to-chip vloeistofkoelingsoplossingen van Supermicro de OPEX met meer dan 40% verlagen, terwijl de computing density toeneemt en de rack scale inzet voor clusters met large language model (LLM) en HPC-toepassingen wordt vereenvoudigd.
Het 2U Supermicro NVIDIA MGX platform ondersteunt zowel NVIDIA Grace als x86 CPU’s met tot 4 full-size datacenter GPU’s, zoals de NVIDIA H100 PCIe, H100 NVL of L40S. Er zijn ook drie extra PCIe 5.0 x16-slots voor I/O-connectiviteit en acht hot-swap EDSFF-slots.
Supermicro integreert NVIDIA-netwerktechnologieën om AI-workloads op het MGX-platform te optimaliseren en te beveiligen. Dit omvat een krachtige combinatie van NVIDIA BlueField-3 DPU’s, die indrukwekkende 2x 200Gb/s connectiviteit leveren om de toegang tot user-to-cloud en dataopslag te versnellen. Daarnaast spelen de ConnectX-7 adapters een belangrijke rol, met de capaciteit om tot 400Gb/s InfiniBand- of Ethernet-connectiviteit te bieden tussen GPU-servers.
Developers kunnen deze nieuwe systemen en NVIDIA software snel gebruiken voor elke industriële workload. Dit aanbod omvat NVIDIA AI Enterprise, enterprise-grade software die het NVIDIA AI-platform voedt en de ontwikkeling en implementatie van productieklare generatieve AI, computer vision, spraak-AI en meer stroomlijnt. Daarnaast biedt de NVIDIA HPC software development kit de essentiële tools die nodig zijn voor de vooruitgang van wetenschappelijke informatica.
Elk aspect van de Supermicro NVIDIA MGX systemen is ontworpen om efficiëntie te verhogen, van intelligent thermisch ontwerp tot componentkeuze. NVIDIA Grace Superchip CPU’s hebben 144 cores en leveren tot 2x zoveel prestaties per watt vergeleken met de huidige industriestandaard x86 CPU’s. Specifieke Supermicro NVIDIA MGX systemen kunnen worden geconfigureerd met twee nodes in 1U, met in totaal 288 cores op twee Grace CPU Superchips om baanbrekende compute density en energie-efficiëntie te bieden in hyperscale en edge datacenters.
