Neiedomājama veiksme vai rūpīgi pārdomāts risks?
Daudzi sapņo par piekļuvi jaudīgai mākslīgā intelekta (MI) aparatūrai, taču reti kurš spēj uziet īstu dārgumu. Kāds MI izstrādātājs, vārdā Deivids Noels Ng, ir īsts veiksminieks, kuram izdevies iegūt iekārtu, kas aprīkota ar NVIDIA Grace Hopper superčipiem, par neticami zemu cenu. Parasto darbu staciju, kuras vērtība tirgū mērāma desmitos tūkstošu dolāru, viņš iegādājies par nieka 7500 eiro. Tas ir kā atrast zelta gabalu miskastē, bet, protams, ne bez savām «piedevām».
Dārgā «zelta» atmiņa un superčipu jauda
Šī darba stacija nav vienkāršs dators. Tās sirds ir divi NVIDIA Grace Hopper superčipi, kas kopā ar diviem Grace procesoriem un diviem Hopper H100 GPU veido iespaidīgu aprēķinu jaudu. Pats galvenais «āķis» šajā pirkumā ir «zelta» 960 GB LPDDR5X operatīvā atmiņa, kuras vien pašas vērtība pārsniedz pircēja iztērēto summu. Deivids to pats atzīst, norādot, ka par 10 000 dolāriem šobrīd tirgū var iegūt vien «lietotus grafiskos procesorus, kas knapi spēj apstrādāt 70 miljardus parametru» modeļus. Šī iekārta viņam ļaus lokāli palaist lielo valodu modeli ar 235 miljardiem parametru – tas ir gandrīz vai kā mājās uzcelt superdatoru.
«Feiktie» sludinājumi un bāvariešu piedzīvojumi
Piedāvājumu Deivids pamanījis sociālajā tīklā Reddit, un tas izskatīšoties «acīmredzami feikts». Lai gan veselais saprāts brīdināja, viņš nolēma riskēt. Par laimi, pircējs nezaudēja galvu un pirms darījuma izdevās panākt vēl papildu atlaidi no sākotnējās 10 000 eiro cenas. Izrādās, ka pārdevējs atradās netālu, un viņam pieder interneta veikals, kas pārdod modificētu serveru aprīkojumu kā galddatorus. Lai gan tas joprojām šķita riskanti, Deivids veica izpēti, atrada video apskatus un, sapratis, ka pārdevējs atrodas tikai divu stundu brauciena attālumā un ir gatavs pieņemt skaidru naudu, devās «bāvariešu ceļojumā».
Pārsteigumi un nepieciešamā «ķirurģija»
Protams, darījumam bija savi «bet». Milzīgā atlaide skaidrojās ar nepieciešamību veikt montāžas darbus un tajā slēptajiem riskiem. Tomēr, kā izrādās, viss beidzās labi un iekārta sāka darboties. Sistēmas dzesēšana bija nomainīta no šķidruma uz gaisu, izskats bija gana nekārtīgs, nebija iespējams to uzstādīt serveru statīvā, un darbojās tā no iespaidīga 3000 W, 230 V barošanas bloka. Pati vienīgā, taču svarīgākā sastāvdaļa – 2 x 480 GB LPDDR5X ECC atmiņa, kas, kā norāda Tom’s Hardware, jau vien pati par sevi attaisno pirkumu, nebija vienīgā. Iekārtai pievienotas arī 2x 96 GB HBM3 atmiņas, tādējādi kopējais «operatīvās atmiņas» apjoms sasniedz 1152 GB. Komponenti savienoti ar NVLink-C2C tehnoloģiju, nodrošinot 900 GB/s caurlaides spēju. Kopējais TDP ir programmējams no 1000 W līdz 2000 W. Savukārt pieslēguma saskarnes ietver 2x PCIe Gen4 M.2, 4x FHFL PCIe Gen5 x16, 1x USB 3.2, 1x RJ45 IPMI un 1x Mini Displayport.
Lodāmurs, spirts un «dieviem lūgšanās»
Lai šo «datoru» sakoptu, bija nepieciešams pamatīgs darbs ar lodāmuru un citiem instrumentiem. Deivids to apraksta aizraujoši. Papildus netīrumiem, sistēma bija ārkārtīgi trokšņaina un pārmērīgi karsa. Pārdevējs gan godīgi visu nodemonstrējis. «Ja šis būtu sponsorēts ieraksts, viņi droši vien neļautu man minēt GPU temperatūru 16 miljonu grādu pēc Celsija vai to, kā nācās brīvi lodēt komponentus, lūdzoties elektronikas dieviem,» ironizē jaunais īpašnieks. Tīrīšanai un atkļūdošanai viņš izmantoja izopropilspirtu, četrus atjaunotus, lētus Arctic AiO šķidruma dzesētājus, vairākas vara detaļas, kas izgrieztas uz CNC frēzmašīnas, un kilogramu 3D drukātu detaļu. Šis projekts nebija vienkārša pirkšana; prasmes un ieguldītais darbs ir daļa no «kompensācijas» par cenu atšķirību.