HPE hat auf der j\u00fcngsten Kundenveranstaltung Discover sein erstes Turnkey-System auf Grundlage von AMDs KI-Rack-Scale-Architektur \u201eHelios\u201c mit Ethernet-Scale-Up-Netzwerk angek\u00fcndigt. Das System nutzt speziell entwickelte Juniper Networking-Hardware und -Software sowie Broadcoms Tomahawk-6-Netzwerkchip. Es basiert auf dem offenen UALoE-Standard (Ultra Accelerator Link over Ethernet) und die auf den ORW-Spezifikationen (Open Rack Wide) des Open Compute Project (OCP) basierende Rack-Scale-L\u00f6sung ist f\u00fcr optimierten Energieverbrauch, moderne Fl\u00fcssigkeitsk\u00fchlung und einfache Wartung ausgelegt. Damit bietet es eine Alternative zu propriet\u00e4ren GPU-Verbindungen wie Nvidias NVLink.<\/p>\n
Weiterlesen nach der Anzeige<\/p>\n
Durch die Einbindung von 72 AMD-GPUs des Typs Instinct MI455X pro Rack bietet das System eine aggregierte Scale-up-Bandbreite von 260 TByte\/s und bis zu 2,9 KI-Exaflops FP4-Leistung. Dazu geh\u00f6ren 31 Terabyte HBM4-Speicher und eine Speicherbandbreite von 1,4 PByte\/s. Erg\u00e4nzt wird das durch einen neuen Scale-Up-Ethernet-Switch, der optimierte Leistung f\u00fcr KI-Workloads \u00fcber Standard-Ethernet bietet und in Zusammenarbeit mit Broadcom entwickelt wurde. Der Switch nutzt HPEs KI-native Automatisierungs- und Qualit\u00e4tssicherungsfunktionen, um den Netzwerkbetrieb zu vereinfachen und zielt auf eine schnellere Bereitstellung und Kosteneinsparungen ab. Abgerundet wird das System durch die Open-Source-Software AMD ROCm und die Netzwerktechnologie AMD Pensando.<\/p>\n
Nutzung auch als HPC-Frontend<\/p>\n
Laut HPE unterst\u00fctzt das System vor allem den Datenverkehr f\u00fcr das Training von extrem gro\u00dfen Modellen mit Billionen an Parametern und hohem Inferenzdurchsatz. Obwohl es als Turnkey-L\u00f6sung angek\u00fcndigt wurde, adressiert es nicht den Gro\u00dfteil der KI-Anwender \u2013 ganz im Gegenteil. \u201eDer Einstiegspreis f\u00fcr Rack-Scale-Helios ist derzeit noch recht hoch, daher denke ich, dass die Akzeptanz eher auf der Seite der Modell- und Serviceprovider liegen wird\u201c, sagt Chris Davidson, Vice President HPC und KI bei HPE. Hier sieht er eine Erg\u00e4nzung der Rack-Scale-L\u00f6sung zum Super-Computing. \u201eDas Helios-Rack k\u00f6nnte im HPC-Bereich eine wichtige Rolle als Frontend-System einnehmen\u201c, so seine weitere Einsch\u00e4tzung der Anwendungsbreite.<\/p>\n