Když dnes člověk používá populárního AI chatbota, jeho dotaz většinou putuje přes internet na servery provozovatele služby. Tam jej zpracuje výkonný model a odpověď se vrátí zpět do počítače nebo telefonu. Nvidia ale ukazuje budoucnost, ve které bude alespoň část podobné umělé inteligence fungovat přímo na vlastním zařízení.
To může mít několik výhod. Vedle rychlejší odezvy jde především o soukromí. Dokumenty, soubory nebo další citlivá data totiž nemusí opouštět počítač. Lokálně běžící AI by tak například mohla pomáhat s tříděním dokumentů, prací s e-maily nebo programováním, aniž by bylo nutné vše odesílat do cloudu.
Nvidia přitom nemluví jen o jednoduchém chatbotu nainstalovaném v počítači. Nové modely mají zvládat stále složitější úkoly a fungovat jako takzvaní AI agenti. Ti dokážou pracovat v několika krocích, používat různé nástroje a u delších úloh si udržet přehled o tom, co už udělali.
Umí pracovat i s videem
Jedním z příkladů je Muse Glimmer, model od společnosti Meta, který má být určený právě pro takto fungující lokální AI. Je dostatečně výkonný pro náročnější práci, zároveň je ale navržen tak, aby mohl běžet na počítači s jedinou výkonnou grafickou kartou. Na nejvýkonnějších herních grafikách Nvidie pak dokáže pracovat velmi rychle.
Podobný směr představuje také Nemotron 3.5 Lightning od Nvidie. Model lze přizpůsobit konkrétním úkolům — například stylu psaní, určité profesi nebo způsobu programování. Firma si tak představuje budoucnost, ve které nebude mít každý jen obecného AI asistenta, ale spíše specializovaný nástroj upravený podle vlastních potřeb.
Lokální AI přitom nemá sloužit jen k psaní textů nebo programování. Nvidia mezi novinkami zmiňuje také model LTX-2.5, určený pro generování a úpravu videa.
Pro běžného uživatele je podstatné hlavně to, že podobné nástroje mají postupně umožnit vytvářet a upravovat kvalitní video přímo na vlastním hardwaru. Model například zvládá pracovat s více záběry a pomáhá udržovat návaznost jednotlivých scén. Tvůrci navíc mohou upravovat již existující záznamy pomocí generativních funkcí, takže kvůli opravě detailu nemusí vždy začínat úplně od začátku.
Když jeden počítač nestačí
Pro nejnáročnější AI modely však stále nemusí stačit jediný počítač. Nvidia proto pracuje i na jednodušším propojování několika systémů, které pak mohou fungovat jako jeden celek.
Nástroj Nvidia Sync Cluster Assistant má pomoci propojit dva nebo více systémů DGX Spark, rozdělit mezi ně práci a zjednodušit nastavení celé sestavy. Laicky řečeno: místo aby vývojář složitě nastavoval několik počítačů, má software velkou část této práce zvládnout automaticky.
Nvidia zároveň chystá nástroje, které umožní lépe sledovat, co jednotlivé počítače dělají a jak moc jsou vytížené. Jde sice o funkce určené především vývojářům a technologickým nadšencům, dobře ale ukazují, kam se vývoj posouvá – od jednoho modelu běžícího někde v cloudu k AI, kterou lze provozovat na vlastním hardwaru podle potřeby.
Superpočítač netřeba
To samozřejmě neznamená, že si každý bude muset pořizovat drahý počítač jen kvůli umělé inteligenci. Největší a nejschopnější modely mají stále vysoké nároky na výkon a paměť. Směr vývoje je ale zřejmý: modely se optimalizují tak, aby dokázaly běžet i na dostupnějším hardwaru, případně aby dokázaly efektivněji využít jedinou výkonnou grafickou kartu.
Vedle nových nástrojů Nvidia proto rozšiřuje podporu celé řady otevřených AI modelů. Některé jsou zaměřené na programování, jiné na video, robotiku nebo práci s obrazem a zvukem. Společným jmenovatelem je snaha provozovat stále schopnější AI co nejblíže uživateli, tedy přímo v počítači, pracovní stanici nebo na specializovaném zařízení.
Lokální AI zřejmě cloud úplně nenahradí. Pro ty nejnáročnější úlohy budou vzdálená datová centra ještě dlouho nezbytná. Čím dál více běžných činností ale může v budoucnu zvládnout samotný počítač.
A právě to je hlavní myšlenka nejnovějších novinek Nvidie. Umělá inteligence se postupně stěhuje z velkých datových center blíž k uživatelům. Nejde přitom jen o rychlost nebo nižší závislost na internetovém připojení. V době, kdy stále více lidí svěřuje AI své dokumenty, fotografie, pracovní materiály a další citlivá data, může být možnost ponechat je přímo ve vlastním zařízení jednou z nejdůležitějších výhod.
