Dessa system \u00e4r matade med enorma m\u00e4ngder text och deras svar baseras p\u00e5 sannolikhet. Men det \u00e4r inte alltid AI-botarna \u00e4r p\u00e5litliga \u2013 och hur ska man f\u00f6rst\u00e5 n\u00e4r de inte \u00e4r det?<\/p>\n
Richard Johansson,<\/strong> professor i data- och informationsteknik vid G\u00f6teborgs universitet, forskar om varf\u00f6r spr\u00e5kmodeller ger felaktiga svar.<\/p>\n \u2013 En sak som \u00e4r v\u00e4ldigt tydlig \u00e4r att ju mer n\u00e5gonting n\u00e4mns i den text som man har tr\u00e4nat systemet p\u00e5, desto st\u00f6rre chans \u00e4r det att man f\u00e5r ett vettigt svar p\u00e5 en fr\u00e5ga om det, s\u00e4ger han.<\/p>\n N\u00e4r den intr\u00e4nade informationen inte \u00e4r tillr\u00e4cklig f\u00f6r att besvara en viss fr\u00e5ga tar till exempel Chat GPT hj\u00e4lp av en s\u00f6kmotor \u2013 det vill s\u00e4ga googlar \u00e5t oss och presenterar svaret inom n\u00e5gra sekunder. Tekniken bakom detta kallas \u201dretrieval augmented generation\u201d (RAG) och anv\u00e4nds just f\u00f6r att g\u00f6ra faktafr\u00e5gor mer p\u00e5litliga, f\u00f6rklarar Richard Johansson.<\/p>\n Men fr\u00e5gor som vi sj\u00e4lva<\/strong> har sv\u00e5rt att besvara genom att s\u00f6ka p\u00e5 webben, \u00e4r ofta ocks\u00e5 utmanande f\u00f6r chattbotar.<\/p>\n \u2013 Jag skulle s\u00e4ga att n\u00e4r det g\u00e4ller lite mer exotiska faktafr\u00e5gor i ovanliga \u00e4mnen s\u00e5 finns det fortfarande en hyfsad risk att f\u00e5 felaktig information. I b\u00e4sta fall s\u00e4ger modellen \u201djag hittar ingen information om detta, s\u00e5 jag kan tyv\u00e4rr inte svara\u201d. Men jag ser fortfarande ibland n\u00e4r man st\u00e4ller v\u00e4ldigt sv\u00e5ra fr\u00e5gor \u2013 d\u00e4r det \u00e4r sv\u00e5rt att s\u00f6ka fram ett resultat \u2013 att modellen bara hittar p\u00e5.<\/p>\n Richard Johansson, professor i data- och informationsteknik vid G\u00f6teborgs universitet.<\/p>\n Foto: Johan Wingborg<\/p>\n Richard Johansson framh\u00e5ller<\/strong> dock att spr\u00e5kmodeller \u00e4r praktiska verktyg och hj\u00e4lpmedel, med f\u00f6rm\u00e5ga att hitta information som man annars inte hade snubblat \u00f6ver. Tekniken ska dock inte hanteras okritiskt.<\/p>\n \u2013 Om jag googlar och f\u00e5r lite olika tr\u00e4ffar brukar jag kolla om det \u00e4r n\u00e5got vettigt. I princip f\u00e5r man ha samma attityd n\u00e4r man anv\u00e4nder spr\u00e5kmodeller n\u00e4r man s\u00f6ker information, att man har attityden att man beh\u00f6ver dubbelkolla.<\/p>\n Ha som vana att unders\u00f6ka k\u00e4llorna som AI-boten h\u00e4nvisar till, r\u00e5der han.<\/p>\n \u2013 Det kan h\u00e4nda att den hittar p\u00e5 saker som ser ut som en bra referens, men det \u00e4r inte s\u00e4kert att det \u00e4r underbyggt.<\/p>\n Rapporten \u201dSvenskarna och internet\u201d<\/strong> visar att det finns en utbredd skepticism mot chattbotars p\u00e5litlighet. Samtidigt ser en del dem som allvetande kompisar som tidseffektivt ger svar om allt fr\u00e5n sjukv\u00e5rd till samh\u00e4lle och politik.<\/p>\n Olof Sundin, professor i biblioteks- och informationsvetenskap vid Lunds universitet, varnar f\u00f6r att synen p\u00e5 generativa AI-verktyg som faktamaskiner riskerar att urholka v\u00e5r k\u00e4llkritiska f\u00f6rm\u00e5ga.<\/p>\n \u2013 Jag tycker det \u00e4r v\u00e4ldigt viktigt att inte anv\u00e4nda dem f\u00f6r faktafr\u00e5gor. Det \u00e4r en annan sak att testa en text eller en id\u00e9, men inte f\u00f6r att s\u00f6ka efter information, s\u00e4ger han.<\/p>\n Grundl\u00e4ggande f\u00f6r att kritiskt granska k\u00e4llor \u00e4r att kunna st\u00e4lla sig fr\u00e5gan: Vem \u00e4r upphovspersonen? N\u00e5got som \u00e4r om\u00f6jligt att besvara n\u00e4r spr\u00e5kmodellen baserar sitt svar p\u00e5 informationen som den har tr\u00e4nats p\u00e5, f\u00f6rklarar Olof Sundin.<\/p>\n \u2013 Och i det fallet d\u00e4r spr\u00e5kmodellen integrerar ett slags s\u00f6kmotorfunktion \u00e4r utmaningen att vi n\u00f6jer oss med den sammanfattning vi f\u00e5r. Vi ifr\u00e5gas\u00e4tter m\u00e5nga g\u00e5nger inte texten, s\u00e4ger han om RAG-tekniken.<\/p>\n Olof Sundin, professor i biblioteks- och informationsvetenskap vid Lunds universitet.<\/p>\n Foto: Johan Persson<\/p>\n Hur informationen presenteras \u00e4r ocks\u00e5 problematiskt, forts\u00e4tter han. Med personlig ton och \u00f6vertygande formuleringar serverar spr\u00e5kmodellen vad han beskriver som f\u00e4rdigtuggad text. Vi matas utan att beh\u00f6va fundera \u00f6ver hur olika k\u00e4llor f\u00f6rh\u00e5ller sig till varandra.<\/p>\n \u2013 Det g\u00f6r att den k\u00e4llkritiska tr\u00e4ningen som vi i alla fall d\u00e5 och d\u00e5 uts\u00e4tts f\u00f6r, den f\u00f6rsvinner ju.<\/p>\n Olof Sundin forskar just nu<\/strong> om hur AI anv\u00e4nds och integreras i skolundervisningen och framf\u00f6r allt p\u00e5 h\u00f6gstadiet. \u00c4ven om \u2013 eller kanske just f\u00f6r att \u2013 generativ AI medf\u00f6r risker och utmaningar n\u00e4r det g\u00e4ller informationsinh\u00e4mtning, tror han att det \u00e4r viktigt att tekniken f\u00e5r ta plats i undervisningen.<\/p>\n \u2013 Och inte bara som ett hj\u00e4lpmedel, utan snarare ett undervisningsinneh\u00e5ll d\u00e4r man faktiskt f\u00e5r utveckla en kritisk f\u00f6rst\u00e5else f\u00f6r hur den digitala infrastrukturen p\u00e5verkar oss b\u00e5de som individer och som samh\u00e4lle i stort.<\/p>\n Fakta.Svenskarna och AI-verktyg<\/p>\n \u25cf 4 av 10 svenskar som \u00e4r 8 \u00e5r eller \u00e4ldre anv\u00e4nder AI-verktyg. F\u00f6dda p\u00e5 00-talet dominerar anv\u00e4ndningen, d\u00e4r anv\u00e4nder tre av fyra personer verktygen.<\/p>\n \u25cf Fler m\u00e4n (43 procent) \u00e4n kvinnor (36 procent) anv\u00e4nder AI i \u00e5ldrarna 18\u201384 \u00e5r.<\/p>\n \u25cf 57 procent av barnen i \u00e5ldern 8\u201319 \u00e5r har anv\u00e4nt AI-verktyg.<\/p>\n \u25cf Runt en fj\u00e4rdedel av de som f\u00f6rv\u00e4rvsarbetar och mer \u00e4n 4 av 10 tj\u00e4nstem\u00e4n har anv\u00e4nt AI.<\/p>\n \u25cf Var tredje svensk anv\u00e4nder Chat GPT, p\u00e5 andra plats kommer Copilot som var tionde anv\u00e4nder.<\/p>\n \u25cf Var femte svensk fr\u00e5gar ett AI-verktyg i st\u00e4llet f\u00f6r exempelvis Google.<\/p>\n \u25cf 7 procent av befolkningen, och var femte person som anv\u00e4nder AI, har st\u00e4llt h\u00e4lso- och sjukv\u00e5rdsrelaterade fr\u00e5gor i ett AI-verktyg.<\/p>\n \u25cf Tv\u00e5 tredjedelar av de studerande som \u00e4r 18 \u00e5r eller \u00e4ldre anv\u00e4nder AI-verktyg i sina studier.<\/p>\n \u25cf Rapporten Svenskarna och internet 2025 ges ut av Internetstiftelsen. \u00c5rets rapport publicerades i september. Unders\u00f6kningen \u00e4r genomf\u00f6rd av Novus.<\/p>\n K\u00e4lla: Internetstiftelsens rapport Svenskarna och internet, 2025.<\/p>\n Visa mer<\/p>\n Visa mindre<\/p>\n","protected":false},"excerpt":{"rendered":"Storskaliga spr\u00e5kmodeller, som AI-tekniken bakom exempelvis Chat GPT, Gemini och Llama kallas, besvarar allt fler av v\u00e5ra fr\u00e5gor…\n","protected":false},"author":2,"featured_media":116879,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[22,23,26,27,17,21,24,25,28,29,15,16,18,34,31,33,32,30,19,20,51,52,53,54],"class_list":{"0":"post-116878","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-varlden","8":"tag-breaking-news","9":"tag-breakingnews","10":"tag-featured-news","11":"tag-featurednews","12":"tag-headlines","13":"tag-huvudnyheter","14":"tag-latest-news","15":"tag-latestnews","16":"tag-main-news","17":"tag-mainnews","18":"tag-news","19":"tag-nyheter","20":"tag-rubriker","21":"tag-se","22":"tag-svenska","23":"tag-sverige","24":"tag-sweden","25":"tag-swedish","26":"tag-top-stories","27":"tag-topstories","28":"tag-varlden","29":"tag-world","30":"tag-world-news","31":"tag-worldnews"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@se\/115782086137236264","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/116878","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/comments?post=116878"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/116878\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media\/116879"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media?parent=116878"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/categories?post=116878"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/tags?post=116878"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"Richard](\"https:\/\/www.europesays.com\/se\/wp-content\/uploads\/2025\/12\/65d8c928-cf1b-4a88-a92a-1bb9f2aa007b.jpeg\")
<\/p>\n![\"Olof](\"https:\/\/www.europesays.com\/se\/wp-content\/uploads\/2025\/12\/77d7ec86-0cd2-4de4-9c54-915124db368f.jpeg\")
<\/p>\n