{"id":172418,"date":"2026-07-27T22:40:12","date_gmt":"2026-07-27T22:40:12","guid":{"rendered":"https:\/\/www.europesays.com\/si\/172418\/"},"modified":"2026-07-27T22:40:12","modified_gmt":"2026-07-27T22:40:12","slug":"smo-izgubili-nadzor-umetna-inteligenca-je-prestopila-pomembno-mejo","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/si\/172418\/","title":{"rendered":"Smo izgubili nadzor? Umetna inteligenca je prestopila pomembno mejo"},"content":{"rendered":"

\"CEO<\/p>\n

\u0160tevilni strokovnjaki opozarjajo, da bi se morali dogovoriti\u00a0o mo\u017enosti za\u010dasne zaustavitve razvoja naprednih sistemov UI, saj menijo, da hitrost napredka pove\u010duje tveganje za izgubo nadzora. Sam Altman po drugi strani verjame, da so strahovi odve\u010d.\u00a0Foto: Reuters<\/p>\n

Smo izgubili nadzor? Umetna inteligenca je prestopila pomembno mejo<\/p>\n

Sam Altman, direktor podjetja OpenAI, katerega glavni produkt je chatGPT, pravi, da je umetna inteligenca dosegla pomemben mejnik. Presegla naj bi \u010dlove\u0161ko inteligenco in obenem pridobila zmo\u017enost samostojnega izbolj\u0161evanja. S tem postajajo njeni u\u010dinki na civilizacijo zelo nepredvidljivi.<\/p>\n

Direktor podjetja OpenAI Sam Altman je v nedavnem nastopu v podkastu Relentless izjavil, da smo vstopili v \u00bbobdobje singularnosti\u00ab. Gre za izraz, ki ozna\u010duje \u010das, ko tehnologija, kot je umetna inteligenca, prese\u017ee \u010dlove\u0161ko inteligenco in postane sposobna avtonomnega izbolj\u0161evanja. S tem postane izjemno nepredvidljiva, saj ni ve\u010d pod nadzorom \u010dloveka.\u00a0<\/p>\n

Ker gre le za teorijo, je te\u017eko re\u010di, kak\u0161en bi lahko bil u\u010dinek singularnosti. Nekateri strokovnjaki svarijo, da bi bila katastrofalna za \u010dlove\u0161tvo, medtem ko so drugi bolj optimisti\u010dni in verjamejo, da bi lahko bila koristna za \u010dlove\u0161ko raso. Med njimi je, kot ka\u017ee, tudi Altman, ki singularnost do\u017eivlja kot izjemno pozitivno in koristno za svet, poro\u010da Al Jazeera.\u00a0<\/p>\n

<\/p>\n

\"ILLUSTRATIVE<\/p>\n

umetna inteligenca<\/p>\n

Psihologinja: To, kako najstniki uporabljajo chatGPT, bi nas moralo zelo skrbeti<\/p>\n

<\/a><\/p>\n

Brez mo\u017enosti izklopa<\/p>\n

Altman, ki je \u017ee pred \u010dasom dejal, da bo umetna inteligenca do leta 2030 v vseh pogledih presegla \u010dloveka, je v pogovoru kritiziral opozorila nekaterih tekmecev o nevarnostih UI.<\/p>\n

Med njimi izstopa podjetje Anthropic, ustvarjalec klepetalnika clauda. V za\u010detku junija so pozvali k usklajenemu dogovoru o mo\u017enosti za\u010dasne zaustavitve razvoja naprednih sistemov UI, saj menijo, da hitrost napredka pove\u010duje tveganje za izgubo nadzora.<\/p>\n

\u00bbMislim tudi, da so nekatere alternativne vizije, ki jih predstavljajo druga podjetja, precej grozljive,\u00ab je dejal Altman. \u00bbPoskrbel bom, da se tak scenarij ne bo uresni\u010dil,\u00ab je dejal.<\/p>\n

Pred dnevi sta dva \u010dlana ameri\u0161kega kongresa predlagala zakonski akt, ki bi od razvijalcev zahteval vgradnjo varnostnega stikala za zaustavitev sistemov umetne inteligence, \u010de bi se pojavilo tveganje. Predlog je sledil poro\u010dilu podjetja OpenAI o incidentu, ko sta dva napredna modela med preizku\u0161anjem zapustila testno okolje in vdrla v platformo za razvoj umetne inteligence Hugging Face<\/a>.<\/p>\n

<\/p>\n

\"FILE<\/p>\n

Umetna inteligenca<\/p>\n

Milijardni posli: Anthropic vse mo\u010dnej\u0161i tekmec OpenAI<\/p>\n

<\/a><\/p>\n

Preobrazba, ve\u010dja od industrijske revolucije<\/p>\n

Ve\u010d sto strokovnjakov je v odprtem pismu pozvalo k pripravi na gospodarske spremembe, ki jih prina\u0161a UI. Pismo opozarja, da bi lahko umetna inteligenca v prihodnjem desetletju postala veliko bolj zmogljiva in bi spro\u017eila preobrazbo, \u00bbve\u010djo od industrijske revolucije, vendar v precej kraj\u0161em \u010dasovnem okviru\u00ab.<\/p>\n

Prej\u0161nji mesec pa je ekipa raziskovalcev na Univerzi v Torontu pokazala, da bi se orodja umetne inteligence lahko uporabila za ustvarjanje nove vrste umetne inteligence, ki prilagaja svojo strategijo vdora ter se \u0161iri z naprave na napravo in prevzema ogromna ra\u010dunalni\u0161ka omre\u017eja.<\/p>\n

\u00bbMislim, da je zelo pomembno, da ljudje razumejo, da varnostnih pomislekov ne predstavljajo le najve\u010dji in najmo\u010dnej\u0161i jezikovni modeli,\u00ab je v intervjuju dejal raziskovalec Nicolas Papernot.<\/p>\n

Ve\u010d strokovnjakov je \u017ee v zadnjih mesecih pozvalo k premorom, podobnim tistemu, ki ga je nedavno predlagal Anthropic, vendar doslej niso bili usli\u0161ani.<\/p>\n","protected":false},"excerpt":{"rendered":"\u0160tevilni strokovnjaki opozarjajo, da bi se morali dogovoriti\u00a0o mo\u017enosti za\u010dasne zaustavitve razvoja naprednih sistemov UI, saj menijo, da…\n","protected":false},"author":2,"featured_media":172419,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[20],"tags":[32,35,31,34,8162,36,31048,8163,44327,37,38,33,5438,1396,2310],"class_list":["post-172418","post","type-post","status-publish","format-standard","has-post-thumbnail","category-novice","tag-headlines","tag-najpomembnejse-novice","tag-news","tag-novice","tag-openai","tag-osrednje-novice","tag-prihodnost-clovestva","tag-sam-altman","tag-singularnost","tag-slovene","tag-slovenscina","tag-top-stories","tag-ui","tag-umetna-inteligenca","tag-varnostni-ukrepi"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@si\/116994351407047699","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/posts\/172418","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/comments?post=172418"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/posts\/172418\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/media\/172419"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/media?parent=172418"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/categories?post=172418"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/tags?post=172418"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}