\n English<\/a>.<\/p>\n
It was translated with technical assistance and editorially reviewed before publication.\n <\/p>\n
AMDs Instinct MI350P f\u00fcr regul\u00e4re PCIe-5.0-Steckfassungen soll sich prim\u00e4r f\u00fcr Agentic AI eignen, also KI-Agenten, die ihren Nutzern automatisiert zur Hand gehen und Aufgaben abnehmen k\u00f6nnen. Die Karte hat mit ihrer GPU au\u00dfer enorm hoher KI-Rechenleistung und viel Speicherdurchsatz aber noch ein paar andere Funktionen in petto. Darunter auch die Beschleunigung aktueller Videocodecs bis AV1 und die Unterteilung in bis zu vier virtuelle GPUs.<\/p>\n
Weiterlesen nach der Anzeige<\/p>\n
Und obwohl sie auch in normalen Rechnern laufen k\u00f6nnte, zielt AMD mit ihr auf Serversysteme, denen die MI350P zur KI-Eignung verhelfen soll. Schon die passive K\u00fchlung der rund 26,7 cm langen Dual-Slot-Karte ist auf den starken Luftstrom von Rackservern ausgelegt. Laut AMD soll sie sich mit ihren 144 GByte Stapelspeicher vom Typ HBM3e f\u00fcr KI-Modelle mit rund 200 bis 250 Milliarden Parametern eignen. Workstation-Karten wie die Radeon AI Pro 9700<\/a> mit nur 32 GByte machen deutlich fr\u00fcher schlapp, etwa bei 40 bis 50 Milliarden Parametern.<\/p>\n Halbierte Schwester<\/p>\n Die MI350P teilt sich ihre GPU mit Beschleunigern in der Bauform Open Accelerator Module (OAM) vom Typ Instinct MI350X\/355X<\/a>, allerdings sind bei der MI350P nur 128 Compute Units aktiv, w\u00e4hrend bei den OAM-Modellen 256 CUs rechnen. Au\u00dferdem halbiert AMD den schnellen HBM3e-Stapelspeicher von 288 auf 144 GByte. AMD gibt dies zwar nicht schriftlich zu Protokoll, aber die Abbildung der Karte zeigt, was nahe liegt: Bei der MI350P kommt nur ein I\/O-Die (IOD) mit vier Compute-Dies (XCDs) zum Einsatz, das GPU-Package wird gegen\u00fcber den gr\u00f6\u00dferen Geschwistern also halbiert.<\/p>\n <\/p>\n <\/a><\/p>\n Die Instinct MI350P soll die OAM-Serverboards nach unten erg\u00e4nzen und zum Beispiel bestehenden Rackserver auf die KI-Spr\u00fcnge helfen.<\/p>\n \n (Bild:\u00a0AMD)\n <\/p>\n Auch die Leistungsaufnahme sinkt deutlich und gleich mit nominell 600 Watt TDP der einer Nvidia RTX Pro 6000 Blackwell<\/a> oder H200 NVL<\/a>, mit denen sie offensichtlich auch konkurrieren soll. Zur Versorgung mit Energie setzt AMD auf den kontroversen ATX-Stecker 12V-2\u00d76<\/a>. Alternativ l\u00e4sst sich die Karte in einen Modus mit 450 Watt versetzen.<\/p>\n Um mehrere Nutzer zugleich zu versorgen, gibt es drei Partitionierungsoptionen: SPX, DPX und CPX. Ersterer entspricht dem Vollbetrieb, bei DPX teilen sich zwei Nutzer die Ressourcen (CUs, RAM, Video- und JPEG-Engine, L2-Cache und DMA-Engines) h\u00e4lftig und bei CPX sind es vier Nutzer. Im CPX-Modus konkurrieren zwei Partitionen um jeweils eine Video- und einen Zehnerblock JPEG-Engines. Die sollten aber noch \u00fcber genug Reserven verf\u00fcgen, denn der komplette Chip etwa schafft 99 AV1-Streams (1080p30, 4:2:0) und 4425 JPEG-Bilder pro Sekunde in 1080p.<\/p>\n Hohe Rechenleistung<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Konkrete Leistungseinsch\u00e4tzungen teilte AMD im Vorfeld nicht, aber die theoretische Rechenleistung \u2013 multipliziert aus Anzahl der Ausf\u00fchrungseinheiten und der Taktfrequenz \u2013 liegt mit FP8-Genauigkeit bei 2300 Teraflops (dicht besetzte Matrizen, mit Sparsity verdoppelt sich der jeweilige Wert grob). MXFP4 verdoppelt diese Rate auf 4600 Tflops, MXFP6, anders als etwa bei Nvidia, ebenso. Damit liegt die theoretische Rechenleistung bei etwas weniger als der H\u00e4lfte einer MI355X. Nvidias H200 NVL schafft auf dem Papier bei voll besetzten Matrizen rund 1670 Tflops (mit Sparsity dann 3340 Tflops).<\/p>\n AMD liefert auch eine Einsch\u00e4tzung zum tats\u00e4chlich erreichten Durchsatz, in den auch Speichertransfers und Begrenzungen durch die Leistungsaufnahme einflie\u00dfen. Demnach liegt die Instinct MI350P zwischen 60 und 70 Prozent ihrer maximalen Durchsatzraten. Der Ausrei\u00dfer nach unten ist MXFP6 mit 40 Prozent des theoretischen Durchsatzes, sodass der Wert nur um ein gutes Drittel steigt, statt sich im Vergleich zur (MX)FP8 zu verdoppeln.<\/p>\n<\/p>\n