Fem ganger så mye KI-regnekraft som forrige generasjons brikker, lovet Nvidia topp Jensen Huang mandag. Han snakket om Nvidias ferskeste KI-brikker, fra scenen på Consumer Electronics Show i Las Vegas.
De nye brikkene er i full produksjon melder selskapet, og de ventet på markedet senere i år. Nvidia-topper skal ha fortalt Reuters at brikkene allerede er i test av KI-selskaper.
Huang brukte tiden sin på scenen til å fortelle om hvor mye bedre de nye brikkene vil være til å kjøre språkmodeller, blant annet ved hjelp av et eget datalagrings-lag for «kontekstuelt minne».
Ny supermaskin
Nvidias nye supermaskin, The Vera Rubin platform, som skal bestå av seks separate brikker, er også ventet senere i år.
− Nvidia kickstarter i dag neste generasjons KI med lanseringen, skriver selskapet i en egen pressemelding om den nye maskinen, som er designet spesielt for å brukes i KI-fabrikker.
Den skal bestå av 72 av selskapets Rubin GPUer og 36 av de nye CPUene. Sammenlignet med Blackwell-maskinene skal den være ti ganger så effektiv når det kommer til såkalt token kostnad, et mål for kostnaden for å bruke KI-modeller.
Nvidia holder pressebildet av den nye Rubin Platform minimalistisk. Foto: Nvidia
Nvidia har utviklet seks nye brikker til maskinen.
For å utvikle maskinen har Nvidia sett på sikkerhet, nettverk, programvare, strøm og kjøling samlet. Målet er å se hele datasenteret, ikke hver enkelt server, som én regne-enhet.
De nye løsningene for å koble mange maskiner sammen skal gjøre det mulig å bygge enda større. Microsofts neste Fairwater KI-fabrikker skal kunne koble sammen hundretusener av de nye supermaskinene.
− Vi bygger verdens mest kraftfulle KI-fabrikker som skal håndtere enhver mengde arbeid, hvor som helst, med maksimal ytelse og effektivitet. Med Nvidia Rubin GPU-er kan vi la utviklere og bedrifter skalere på helt nye måter, sier Satya Nadella, toppsjef i Microsoft ifølge pressemeldingen fra Nvidia.
Løsningen for kontekstuelt minne skal gjøre det mulig å lagre cache-data på tvers av KI-infrastrukturen for å bedre ytelsen.
Les også:
Nå truer Googles modell Chat GPTs dominans på KI-arenaen