Smo izgubili nadzor? Umetna inteligenca je prestopila pomembno mejo

Številni strokovnjaki opozarjajo, da bi se morali dogovoriti o možnosti začasne zaustavitve razvoja naprednih sistemov UI, saj menijo, da hitrost napredka povečuje tveganje za izgubo nadzora. Sam Altman po drugi strani verjame, da so strahovi odveč. Foto: Reuters

Smo izgubili nadzor? Umetna inteligenca je prestopila pomembno mejo

Sam Altman, direktor podjetja OpenAI, katerega glavni produkt je chatGPT, pravi, da je umetna inteligenca dosegla pomemben mejnik. Presegla naj bi človeško inteligenco in obenem pridobila zmožnost samostojnega izboljševanja. S tem postajajo njeni učinki na civilizacijo zelo nepredvidljivi.

Direktor podjetja OpenAI Sam Altman je v nedavnem nastopu v podkastu Relentless izjavil, da smo vstopili v »obdobje singularnosti«. Gre za izraz, ki označuje čas, ko tehnologija, kot je umetna inteligenca, preseže človeško inteligenco in postane sposobna avtonomnega izboljševanja. S tem postane izjemno nepredvidljiva, saj ni več pod nadzorom človeka. 

Ker gre le za teorijo, je težko reči, kakšen bi lahko bil učinek singularnosti. Nekateri strokovnjaki svarijo, da bi bila katastrofalna za človeštvo, medtem ko so drugi bolj optimistični in verjamejo, da bi lahko bila koristna za človeško raso. Med njimi je, kot kaže, tudi Altman, ki singularnost doživlja kot izjemno pozitivno in koristno za svet, poroča Al Jazeera. 

Brez možnosti izklopa

Altman, ki je že pred časom dejal, da bo umetna inteligenca do leta 2030 v vseh pogledih presegla človeka, je v pogovoru kritiziral opozorila nekaterih tekmecev o nevarnostih UI.

Med njimi izstopa podjetje Anthropic, ustvarjalec klepetalnika clauda. V začetku junija so pozvali k usklajenemu dogovoru o možnosti začasne zaustavitve razvoja naprednih sistemov UI, saj menijo, da hitrost napredka povečuje tveganje za izgubo nadzora.

»Mislim tudi, da so nekatere alternativne vizije, ki jih predstavljajo druga podjetja, precej grozljive,« je dejal Altman. »Poskrbel bom, da se tak scenarij ne bo uresničil,« je dejal.

Pred dnevi sta dva člana ameriškega kongresa predlagala zakonski akt, ki bi od razvijalcev zahteval vgradnjo varnostnega stikala za zaustavitev sistemov umetne inteligence, če bi se pojavilo tveganje. Predlog je sledil poročilu podjetja OpenAI o incidentu, ko sta dva napredna modela med preizkušanjem zapustila testno okolje in vdrla v platformo za razvoj umetne inteligence Hugging Face.

Preobrazba, večja od industrijske revolucije

Več sto strokovnjakov je v odprtem pismu pozvalo k pripravi na gospodarske spremembe, ki jih prinaša UI. Pismo opozarja, da bi lahko umetna inteligenca v prihodnjem desetletju postala veliko bolj zmogljiva in bi sprožila preobrazbo, »večjo od industrijske revolucije, vendar v precej krajšem časovnem okviru«.

Prejšnji mesec pa je ekipa raziskovalcev na Univerzi v Torontu pokazala, da bi se orodja umetne inteligence lahko uporabila za ustvarjanje nove vrste umetne inteligence, ki prilagaja svojo strategijo vdora ter se širi z naprave na napravo in prevzema ogromna računalniška omrežja.

»Mislim, da je zelo pomembno, da ljudje razumejo, da varnostnih pomislekov ne predstavljajo le največji in najmočnejši jezikovni modeli,« je v intervjuju dejal raziskovalec Nicolas Papernot.

Več strokovnjakov je že v zadnjih mesecih pozvalo k premorom, podobnim tistemu, ki ga je nedavno predlagal Anthropic, vendar doslej niso bili uslišani.