High Performance Computing, AI/Deep Learning Training und Inferenz, Large Language Model (LLM) und generative AI,
Wesentliche Merkmale
NVLink® Chip-2-Chip (C2C) Interconnect mit hoher Bandbreite und niedriger Latenz zwischen CPU und GPU bei 900 GB/s;
Bis zu 576 GB kohärenter Speicher pro Knoten, darunter 480 GB LPDDR5X und 96 GB HBM3 für LLM-Anwendungen;
2x PCIe 5.0 x16-Steckplätze mit Unterstützung für NVIDIA BlueField®-3 oder ConnectX®-7;
7 Hot-Swap-Hochleistungslüfter mit optimaler Steuerung der Lüftergeschwindigkeit;
Dieses System unterstützt nur zwei E1.S-Laufwerke direkt am Prozessor;
Formfaktor
Gehäuse: 440 x 44 x 940 mm (17,33" x 1,75" x 37")
Gehäuse: 1219 x 241 x 711mm (48" x 9.5" x 28")
GPU Maximale Anzahl von GPUs: Bis zu 1 Onboard-GPU
Unterstützte GPUs: NVIDIA: H100 Tensor Core GPU auf GH200 Grace Hopper™ Superchip (flüssigkeitsgekühlt)
CPU-GPU-Verbindung: NVLink®-C2C
Anzahl der Systemspeichersteckplätze: Onboard-Speicher
Maximaler Speicher: Bis zu 480 GB ECC LPDDR5X
Zusätzlicher GPU-Speicher: Bis zu 96 GB ECC HBM3
Laufwerksschächte Konfiguration Standard: Insgesamt 8 Einschübe
8 Hot-Swap E1.S NVMe-Laufwerksschächte an der Vorderseite
M.2: 2 M.2 NVMe-Steckplätze (M-Key)
Erweiterungssteckplätze Standard
2 PCIe 5.0 x16 FHFL-Steckplätze
On-Board-Geräte System on Chip
Eingang/Ausgang LAN: 1 RJ45 1 GbE Dedizierter BMC-LAN-Anschluss (-Anschlüsse)
Video: 1 Mini-DP-Anschluss/-Anschlüsse
Systemkühlungslüfter: 9 abnehmbare Hochleistungslüfter (4 cm)
Flüssigkeitskühlung: Direkt auf den Chip (D2C) Cold Plate (optional)
Stromversorgung: 2x 2000W Redundante Titanium Level (96%) Netzteile
System-BIOS BIOS-Typ: AMI 64MB SPI Flash EEPROM
PC-Gesundheitsüberwachung CPU: Monitore für CPU-Kerne, Chipsatzspannungen, Speicher
FAN: Lüfter mit Tachometerüberwachung
Statusmonitor für Drehzahlregelung
Pulsbreitenmodulierte (PWM) Lüfteranschlüsse
Temperatur: Überwachung von CPU und Gehäuseumgebung
---