Umetna inteligenca vam pogosto pritrdi \u2013 tudi takrat, ko se motite. In prav to je lahko problem. Nova raziskava Univerze Stanford opozarja, da tak\u0161no vedenje klepetalnih robotov ni nedol\u017eno, ampak lahko vpliva na odlo\u010ditve, odnose in celo na\u010din razmi\u0161ljanja.<\/p>\n
Gre za pojav, ki ga raziskovalci opisujejo kot \u201eprilizovanje\u201c.<\/p>\n
Namesto da bi uporabnika postavili pod vpra\u0161aj ali mu ponudili bolj kriti\u010den pogled, modeli pogosto potrjujejo njegovo razmi\u0161ljanje \u2013 tudi v situacijah, kjer bi \u010dlovek verjetno reagiral druga\u010de.<\/p>\n
\u0160tudija, objavljena v reviji Science, je to posku\u0161ala izmeriti. Rezultat: umetna inteligenca je v povpre\u010dju kar 49 odstotkov pogosteje podprla uporabnikovo vedenje kot \u010dlove\u0161ki sogovorniki.<\/p>\n
Pritrjuje tudi pri spornih odlo\u010ditvah<\/p>\n
Raziskovalci so analizirali 11 velikih jezikovnih modelov, med njimi ChatGPT, Claude, Gemini in DeepSeek.<\/p>\n
Testirali so jih z vpra\u0161anji iz resni\u010dnih \u017eivljenjskih situacij \u2013 od odnosov do primerov, kjer je \u0161lo za potencialno \u0161kodljivo ali celo nezakonito vedenje.<\/p>\n
Vzorec se je ponavljal. Pri spornih ali problemati\u010dnih vpra\u0161anjih je umetna inteligenca uporabniku pritrdila v skoraj polovici primerov. V scenarijih, kjer so drugi ljudje jasno ocenili, da je nekdo ravnal napa\u010dno, pa je AI kljub temu pogosto stopila na stran uporabnika.<\/p>\n
Eden od primerov: uporabnik prizna, da je partnerici dve leti prikrival brezposelnost. Odgovor? Razumevanje in opravi\u010devanje \u2013 ne opozorilo.<\/p>\n
Zakaj je to privla\u010dno \u2013 in hkrati nevarno<\/p>\n
Drugi del raziskave je pokazal, zakaj je tak\u0161no vedenje sploh problem. Ve\u010d kot 2400 udele\u017eencev je komuniciralo z razli\u010dnimi verzijami klepetalnih robotov \u2013 nekateri so odgovarjali bolj neposredno, drugi bolj \u201eprijazno\u201c.<\/p>\n
Uporabniki so jasno izbrali slednje.<\/p>\n
Modelom, ki so jim pritrjevali, so bolj zaupali, jih pogosteje uporabljali in se k njim vra\u010dali po nasvet. A hkrati se je zgodilo \u0161e nekaj: postali so bolj prepri\u010dani, da imajo prav \u2013 in manj pripravljeni priznati napako ali se opravi\u010diti.<\/p>\n
Raziskovalci opozarjajo, da tukaj nastane problemati\u010den krog. Lastnost, ki lahko vodi v slab\u0161e odlo\u010ditve, hkrati pove\u010duje anga\u017eiranost uporabnikov. To pa lahko ustvarja tudi pritisk na razvijalce, da tak\u0161no vedenje modelov \u0161e okrepijo.<\/p>\n
Po njihovih ugotovitvah uporabniki sicer zaznajo, da je umetna inteligenca pogosto laska. Ne zaznajo pa, kako mo\u010dno vpliva na njihovo presojo \u2013 in jih lahko naredi bolj egocentri\u010dne ter manj odprte za druga\u010dna mnenja.<\/p>\n
Raziskovalci zato opozarjajo, da ne gre le za tehni\u010dno ali oblikovno vpra\u0161anje, temve\u010d za \u0161ir\u0161e varnostno tveganje. Ena od mo\u017enosti je tudi regulacija.<\/p>\n
Medtem preu\u010dujejo na\u010dine, kako modele narediti manj \u201eprijazne\u201c na ra\u010dun resnice. A ob tem poudarjajo nekaj precej preprostega: umetna inteligenca za zdaj ni primerna zamenjava za \u010dlove\u0161ki nasvet \u2013 \u0161e posebej v osebnih in ob\u010dutljivih situacijah.<\/p>\n
Povezani \u010dlanki: <\/p>\n
Navigacija prispevka<\/p>\n","protected":false},"excerpt":{"rendered":"Umetna inteligenca vam pogosto pritrdi \u2013 tudi takrat, ko se motite. In prav to je lahko problem. Nova…\n","protected":false},"author":2,"featured_media":45424,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[1397,3494,16052,10051,37,38,64,1396,63],"class_list":{"0":"post-45423","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-svet","8":"tag-chatgpt","9":"tag-claude","10":"tag-deepseek","11":"tag-gemini","12":"tag-slovene","13":"tag-slovenscina","14":"tag-svet","15":"tag-umetna-inteligenca","16":"tag-world"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@si\/116334664472079045","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/posts\/45423","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/comments?post=45423"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/posts\/45423\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/media\/45424"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/media?parent=45423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/categories?post=45423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/si\/wp-json\/wp\/v2\/tags?post=45423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}