High Performance Computing, AI/Deep Learning Training und Inferenz, Large Language Model (LLM) und generative AI,
Wesentliche Merkmale
NVIDIA Grace™ Hopper Superchip (Grace CPU und H100 GPU);
NVLink® Chip-2-Chip (C2C) Interconnect mit hoher Bandbreite und niedriger Latenz zwischen CPU und GPU bei 900 GB/s;
Bis zu 624 GB kohärenter Speicher pro Knoten, darunter 480 GB LPDDR5X und 144 GB HBM3e für LLM-Anwendungen;
3x PCIe 5.0 X16 für eine NVIDIA Bluefield 3 und zwei connectX-7 Karten und 1x PCIe 5.0 x8 Steckplatz pro Knoten für eine 10GB LP NIC Karte;
6 Hot-Swap-Hochleistungslüfter mit optionaler Drehzahlregelung;
Formfaktor
Gehäuse: 438,4 x 87 x 900 mm (17,3" x 3,43" x 35,43")
Gehäuse: 700 x 280 x 1200mm (27.56" x 11.02" x 47.24")
Unterstützte GPUs: NVIDIA: H100 Tensor Core GPU auf GH200 Grace Hopper™ Superchip (luftgekühlt)
CPU-GPU-Verbindung: NVLink®-C2C
GPU-GPU-Verbindung: NVIDIA® NVLink®
Anzahl der Systemspeichersteckplätze: Onboard-Speicher
Zusätzlicher GPU-Speicher: Bis zu 144 GB ECC HBM3
Laufwerkseinschübe Konfiguration Standard: Insgesamt 3 Einschübe
3 Hot-Swap E1.S NVMe-Laufwerkseinschübe an der Vorderseite
M.2: 2 M.2 NVMe-Steckplätze (M-Key)
Erweiterungssteckplätze Standard
3 PCIe 5.0 x16 (in x16) FHFL-Steckplätze
On-Board-Geräte System on Chip
Eingang/Ausgang LAN: 1 RJ45 1 GbE Dedizierter BMC-LAN-Anschluss (-Anschlüsse)
Video: 1 Mini-DP-Anschluss (-Anschlüsse)
Systemkühlungslüfter: 6 abnehmbare Hochleistungslüfter (6 cm)
Stromversorgung: 4x 2000W Redundante (2 + 2) Titanium Level (96%) Netzteile
System-BIOS BIOS-Typ: AMI 64MB SPI Flash EEPROM
PC-Gesundheitsüberwachung CPU: Monitore für CPU-Kerne, Chipsatzspannungen, Speicher
FAN: Lüfter mit Tachometerüberwachung
Statusmonitor für Drehzahlregelung
Pulsbreitenmodulierte (PWM) Lüfteranschlüsse
Temperatur: Überwachung von CPU und Gehäuseumgebung
---