Als je aan Nvidia denkt, komen de videokaarten waarschijnlijk als eerste bovendrijven, maar het bedrijf heeft nu iets heel anders aangekondigd. De DGX Spark, een minisupercomputer die volledig in het teken staat van AI, is vooral bestemd voor de ontwikkelaars van AI-producten en diensten.
Als consument heb je dus vrijwel niets aan het apparaat op je bureau, maar dat geldt niet voor de makers van AI-diensten waar jij weleens gebruik van maakt. Met een monster van een chip (de GB10 Grace Blackwell), 128GB aan unified RAM en tot maximaal 4TB aan opslagruimte is hij volgens de fabrikant uitermate geschikt voor het tweaken van AI-modellen. Het geheel wordt aangedreven door een voeding van 240W
De DGX Spark moet dankzij zijn rekenkracht en vermogen maximaal 70 miljard parameters kunnen uitvoeren op AI-modellen die lokaal geladen worden. Hetzelfde geldt voor de maximaal 200 miljard uitvoerbare parameters bij zogeheten inferentie-opdrachten. Bij AI spreek je van inferentie zodra een getraind AI-model zijn kennis daadwerkelijk omzet in acties, ingegeven door bijvoorbeeld een prompt of andere opdracht.
Ontwikkelaar tast fors in de buidel
Daarbij komt de forse RAM om de hoek kijken. De 128GB aan RAM moet, ondanks het feit dat deze door zowel de CPU als de GPU worden gebruikt, doorvoersnelheden tot 273GB/s kunnen halen. Nvidia’s eigen NVLink-C2C zorgt voor de verdeling van RAM tussen de CPU en GPU. Tenslotte zorgt de ConnectX-7-netwerkadapter voor een netwerkbandbreedte van 200Gbit/s. En dat allemaal in een gebakje van 15x15x5cm.
Het prijskaartje van de DGX Spark liegt er dan ook niet om: Nvidia zet hem voor ruim 4000 dollar op de markt, dik 1000 euro duurder dan werd vermeld tijdens de aankondiging. Daarnaast zegt Nvidia samen te gaan werken met ASUS, Acer, Dell, Lenovo, Gigabyte en HPI, die elk met een eigen versie van de DGX Spark komen. Europrijzen zijn op het moment van schrijven nog niet bekend.
Meer lezen over AI? Download dan onze app!