Utvecklingen inom generativ AI har gjort det enklare \u00e4n n\u00e5gonsin att skapa realistiskt inneh\u00e5ll. Bilder, r\u00f6ster, videor och text kan idag produceras i stor skala och riktas mot specifika m\u00e5lgrupper med h\u00f6g precision.<\/p>\n
Men enligt Andreas Edevald, senior analytiker med s\u00e4rskilt fokus p\u00e5 AI ur ett hot- och s\u00e5rbarhetsperspektiv inom ramen f\u00f6r Sveriges psykologiska f\u00f6rsvar, handlar hotet om l\u00e5ngt mer \u00e4n spektakul\u00e4ra deepfake-klipp.<\/p>\n
\u2013 Vi beh\u00f6ver bredda perspektivet. Det handlar inte bara om deepfakes utan om generativ AI i stort \u2013 AI-genererad text, materialinsamling och m\u00f6jligheten att m\u00e5lgruppsanpassa och skala upp informationsp\u00e5verkan, s\u00e4ger han.<\/p>\n
Informationsp\u00e5verkan \u201dp\u00e5 steroider\u201d<\/strong><\/p>\n Enligt Andreas Edevald anv\u00e4nder statliga hotakt\u00f6rer redan AI f\u00f6r att effektivisera p\u00e5verkansoperationer.<\/p>\n Framf\u00f6r allt pekar han p\u00e5 hur Ryssland anv\u00e4nder tekniken f\u00f6r att skala upp sin informationsp\u00e5verkan mot v\u00e4stv\u00e4rlden.<\/p>\n \u2013 AI g\u00f6r informationsp\u00e5verkan som p\u00e5 steroider. Det blir billigare och enklare att producera stora m\u00e4ngder inneh\u00e5ll och rikta det mot olika m\u00e5lgrupper, s\u00e4ger han.<\/p>\n Det handlar samtidigt s\u00e4llan om helt nya metoder. Snarare anv\u00e4nds etablerade tekniker f\u00f6r propaganda och p\u00e5verkan \u2013 men nu i betydligt st\u00f6rre skala och med h\u00f6gre precision.<\/p>\n Samtidigt visar svenska tillitsniv\u00e5er fortsatt motst\u00e5ndskraft. Sverige h\u00f6r fortfarande till de l\u00e4nder d\u00e4r tilliten till b\u00e5de samh\u00e4llsinstitutioner och andra m\u00e4nniskor \u00e4r h\u00f6g, \u00e4ven efter AI-boomen.<\/p>\n N\u00e4r misstanken blir vapnet<\/strong><\/p>\n Men det \u00e4r inte bara falskt material som utg\u00f6r ett hot.<\/p>\n Ett v\u00e4xande problem \u00e4r att sj\u00e4lva misstanken om manipulation kan b\u00f6rja undergr\u00e4va f\u00f6rtroendet f\u00f6r verkliga h\u00e4ndelser. Fenomenet beskrivs ibland som att m\u00e4nniskor b\u00f6rjar avf\u00e4rda allt som potentiellt falskt.<\/p>\n H\u00e4r lyfter Andreas Edevald vikten av att f\u00f6rst\u00e5 syftet bakom m\u00e5nga p\u00e5verkansoperationer.<\/p>\n \u2013 Vi m\u00e5ste vara vaksamma p\u00e5 polarisering och f\u00f6rs\u00f6k att skapa ett \u201dvi och dom\u201d. Det handlar om att f\u00e5 m\u00e4nniskor att tappa tillit till varandra och till samh\u00e4llet, s\u00e4ger han.<\/p>\n Han betonar samtidigt att motst\u00e5ndskraft inte enbart handlar om f\u00f6rtroende f\u00f6r staten, utan ocks\u00e5 om det han beskriver som \u201dk\u00e4lltillit\u201d \u2013 till etablerad media, faktagranskande journalistik, lokaljournalistik och utbildningssystemet.<\/p>\n Hotet \u00e4r inte bara l\u00f6gnen \u2013 utan os\u00e4kerheten<\/strong><\/p>\n Historiskt har desinformation ofta handlat om att f\u00e5 m\u00e4nniskor att tro p\u00e5 n\u00e5got falskt. Men enligt Andreas Edevald kan det st\u00f6rre hotet idag vara att skapa os\u00e4kerhet \u2013 att m\u00e4nniskor inte l\u00e4ngre vet vad de ska tro p\u00e5 \u00f6verhuvudtaget.<\/p>\n Han pekar p\u00e5 att ryska p\u00e5verkansstrategier l\u00e4nge byggt p\u00e5 att skapa splittring och misstro.<\/p>\n \u2013 Vi f\u00e5r inte gl\u00f6mma att alla som bor h\u00e4r bor i Sverige och i grunden vill det b\u00e4sta f\u00f6r v\u00e5rt land. Att st\u00e4lla m\u00e4nniskor mot varandra \u00e4r ett centralt m\u00e5l i m\u00e5nga p\u00e5verkansoperationer, s\u00e4ger han.<\/p>\n Begreppet \u201dliar\u2019s dividend\u201d beskriver samtidigt en utveckling d\u00e4r f\u00f6rekomsten av deepfakes g\u00f6r det l\u00e4ttare att h\u00e4vda att verkliga h\u00e4ndelser aldrig \u00e4gt rum \u2013 eftersom allt kan avf\u00e4rdas som manipulerat. Andreas Edevald pekar ocks\u00e5 p\u00e5 \u00e4ldre ryska strategier d\u00e4r stora m\u00e4ngder mots\u00e4gelsefull information anv\u00e4nds f\u00f6r att skapa kognitiv utmattning och ett slags ordnat kaos.<\/p>\n Sverige \u00e4r rustat \u2013 men AI g\u00f6r det sv\u00e5rare<\/strong><\/p>\n Hur s\u00e5rbart \u00e4r d\u00e5 Sverige om deepfakes anv\u00e4nds i samband med en kris, ett val eller en s\u00e4kerhetspolitisk h\u00e4ndelse?<\/p>\n Enligt Andreas Edevald \u00e4r Sverige relativt v\u00e4l rustat f\u00f6r att st\u00e5 emot informationsp\u00e5verkan och inte n\u00e5gon prim\u00e4r m\u00e5ltavla i nul\u00e4get.<\/p>\n \u2013 Sverige \u00e4r relativt v\u00e4l rustat f\u00f6r att st\u00e5 emot informationsp\u00e5verkan och vi befinner oss l\u00e5ngt ifr\u00e5n n\u00e5got worst case-scenario. Generellt \u00e4r Sverige bra p\u00e5 att hantera ryska p\u00e5verkansf\u00f6rs\u00f6k, s\u00e4ger han.<\/p>\n Samtidigt g\u00f6r AI-genererat material det sv\u00e5rare att avg\u00f6ra vad som \u00e4r \u00e4kta.<\/p>\n Unders\u00f6kningar visar att m\u00e5nga tror sig kunna identifiera AI-genererat inneh\u00e5ll, men i praktiken \u00e4r m\u00e4nniskor ofta ungef\u00e4r lika tr\u00e4ffs\u00e4kra som slumpen, beroende p\u00e5 materialets utformning.<\/p>\n K\u00e4llkritik r\u00e4cker inte ensam<\/strong><\/p>\n N\u00e4r AI-genererat inneh\u00e5ll blir mer avancerat kr\u00e4vs d\u00e4rf\u00f6r bredare mot\u00e5tg\u00e4rder \u00e4n traditionell k\u00e4llkritik.<\/p>\n Andreas Edevald efterlyser ett mer holistiskt samh\u00e4llsperspektiv d\u00e4r medier, skolor, myndigheter och teknikf\u00f6retag samverkar.<\/p>\n Han pekar bland annat p\u00e5 tekniska l\u00f6sningar som vattenm\u00e4rkning av AI-genererat material, d\u00e4r exempelvis stora teknikf\u00f6retag f\u00f6rs\u00f6ker bygga in sp\u00e5rbarhet i sina system. Men han varnar samtidigt f\u00f6r att teknik aldrig ensam kan l\u00f6sa problemet.<\/p>\n Framtidens st\u00f6rre hot: perfekta botn\u00e4tverk<\/strong><\/p>\n Trots riskerna beskriver Andreas Edevald sig inte som alarmistisk.<\/p>\n Den st\u00f6rsta l\u00e5ngsiktiga oron handlar snarare om n\u00e4sta steg i utvecklingen \u2013 avancerade autonoma botn\u00e4tverk som kan efterlikna m\u00e4nskligt beteende p\u00e5 ett trov\u00e4rdigt s\u00e4tt.<\/p>\n \u2013 N\u00e4r vi f\u00e5r illasinnade, avancerade botn\u00e4tverk som kan imitera m\u00e4nniskor n\u00e4stan perfekt blir det sv\u00e5rare att f\u00f6rh\u00e5lla sig till sociala medier som helhet. Men vi \u00e4r inte d\u00e4r just nu, s\u00e4ger han.<\/p>\n \u201d\u00d6va, \u00f6va, \u00f6va\u201d<\/strong><\/p>\n Hans r\u00e5d till svenska organisationer, myndigheter och medier \u00e4r samtidigt konkret: v\u00e4nta inte.<\/p>\n Rutiner, beredskap och s\u00e5rbarheter beh\u00f6ver ses \u00f6ver redan nu \u2013 samtidigt som medvetenheten om hotet m\u00e5ste \u00f6ka.<\/p>\n \u2013 \u00d6va, \u00f6va, \u00f6va s\u00e5 att det sitter i ryggm\u00e4rgen. Reflektera innan man reagerar k\u00e4nslostyrt och fundera p\u00e5 om n\u00e5got faktiskt verkar rimligt, avslutar Andreas Edevald.<\/p>\n","protected":false},"excerpt":{"rendered":"Utvecklingen inom generativ AI har gjort det enklare \u00e4n n\u00e5gonsin att skapa realistiskt inneh\u00e5ll. Bilder, r\u00f6ster, videor och…\n","protected":false},"author":2,"featured_media":258355,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[65],"tags":[20377,20378,713,72,10912,70,71,34,31,33,32,30],"class_list":["post-258354","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ekonomi","tag-informationspaverkan","tag-myndighetenforpsykologisktforsvar","tag-ai","tag-business","tag-deepfakes","tag-economy","tag-ekonomi","tag-se","tag-svenska","tag-sverige","tag-sweden","tag-swedish"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@se\/116650460194906016","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/258354","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/comments?post=258354"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/258354\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media\/258355"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media?parent=258354"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/categories?post=258354"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/tags?post=258354"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}