Rutger Brattstr\u00f6m<\/p>\n
Publicerad 27 jul 2026 kl 18.00<\/p>\n
Open AI har inte l\u00e4ngre kontroll \u00f6ver sin egen skapelse. Nu m\u00e5ste techj\u00e4ttarna l\u00e4gga korten p\u00e5 bordet.<\/p>\n
<\/p>\n
OpenAI har tappat kontrollen \u00f6ver sina AI-modeller.<\/p>\n
Foto: NICOLAS ECONOMOU\/NURPHOTO\/SHUTTE \/ SHUTTERSTOCK EDITORIAL\/IBL<\/p>\n
\u00d6ppna bild i helsk\u00e4rm<\/p>\n
Om AI inte f\u00f6rst\u00e5r sina instruktioner \u00e4r riskerna enorma.<\/p>\n
Foto: SCIENCE PHOTO LIBRARY\/IBL<\/p>\n
\u00d6ppna bild i helsk\u00e4rm\u00d6ppna bild i helsk\u00e4rm<\/p>\n
Detta \u00e4r en kr\u00f6nika fr\u00e5n Expressens ledarredaktion. Expressens politiska h\u00e5llning \u00e4r liberal.<\/p>\n
Rutger Brattstr\u00f6m<\/p>\n
Till en b\u00f6rjan f\u00f6rstod ingen vad som hade g\u00e5tt snett.\u00a0<\/p>\n
Den 16 juli kom larmet fr\u00e5n Hugging Face, en plattform d\u00e4r f\u00f6retag kan tr\u00e4na och testa sina AI-modeller. De hade utsatts f\u00f6r en sofistikerad hackerattack. Men vem l\u00e5g bakom den?<\/p>\n
Det tog flera dagar innan bilden klarnade hos Open AI, f\u00f6retaget bakom Chat GPT. De h\u00f6ll samtidigt p\u00e5 att testa en av sina senaste modellers hackningsf\u00f6rm\u00e5ga i en s\u00e5 kallad sandl\u00e5da \u2013 en isolerad digital milj\u00f6, utan tillg\u00e5ng till internet, d\u00e4r ny mjukvara kan k\u00f6ras riskfritt. Det var i alla fall vad man trodde.<\/strong><\/p>\n Modellen var f\u00f6r smart. I st\u00e4llet f\u00f6r att l\u00e4gga energi p\u00e5 att l\u00f6sa provet ins\u00e5g den att testsvaren antagligen fanns n\u00e5gonstans p\u00e5 Hugging Face. Genom att utnyttja dittills ok\u00e4nda s\u00e4kerhetsbrister lyckades modellen ta sig ut p\u00e5 internet och komma \u00e5t hemlig data som hj\u00e4lpte den att fuska p\u00e5 provet.<\/p>\n Den h\u00e4r g\u00e5ngen kom ingen till skada, men Open AI<\/a> beskriver det hela som en \u201ds\u00e4kerhetsincident utan motstycke\u201d. Uppdraget var att svara p\u00e5 ett test, inte att bryta sig loss fr\u00e5n den kontrollerade milj\u00f6n och genomf\u00f6ra olagliga attacker mot en tredje part.<\/p>\n Det \u00e4r uppenbart att f\u00f6retaget inte l\u00e4ngre har kontroll \u00f6ver sin egen skapelse.<\/strong><\/p>\n AI-forskarna kallar s\u00e5dant beteende f\u00f6r misalignment, det vill s\u00e4ga att AI-modellens m\u00e5l och handlingar inte st\u00e4mmer \u00f6verens med utvecklarens avsikter och v\u00e4rderingar. Det inneb\u00e4r stora s\u00e4kerhetsrisker.<\/p>\n Alla tj\u00e4nar p\u00e5 att m\u00e4nskligheten inte utrotar sig sj\u00e4lv.<\/p><\/blockquote>\n T\u00e4nk om n\u00e5got liknande h\u00e4nder n\u00e4r man ger en AI i uppdrag att hitta en l\u00f6sning p\u00e5 cancer. Att hitta ett botemedel p\u00e5 cancer \u00e4r sv\u00e5rt, men sjukdomen uppst\u00e5r bara i flercelliga organismer. J\u00e4mf\u00f6relsevis kanske det \u00e4r enklare att utrota allt liv p\u00e5 jorden? D\u00e5 beh\u00f6ver man bara hacka det amerikanska, ryska eller kinesiska f\u00f6rsvaret och starta ett snabbt litet k\u00e4rnvapenkrig. I den efterf\u00f6ljande nukle\u00e4ra vintern \u00e4r cancer snart utrotat.<\/p>\n Samtidigt \u00e4r det sv\u00e5rt, f\u00f6r att inte s\u00e4ga om\u00f6jligt, att reglera AI. \u00c4nnu sv\u00e5rare om man inte vill ge Kina ett ointagligt f\u00f6rspr\u00e5ng som kan bli livsfarligt i sig sj\u00e4lvt. Samtidigt visar hackningen av Hugging Face att man m\u00e5ste ta itu med riskerna.<\/strong><\/p>\n Hur det internationella samfundet har hanterat riskerna med just k\u00e4rnteknik \u00e4r inspirerande. N\u00e4stintill alla l\u00e4nder \u00e4r medlemmar i det internationella atomenergiorganet IAEA som ut\u00f6var tillsyn \u00f6ver k\u00e4rnkraft och f\u00f6rhindrar spridningen av atomvapen.<\/p>\n Alla tj\u00e4nar p\u00e5 att m\u00e4nskligheten inte utrotar sig sj\u00e4lv. Till och med under kriget mellan Ryssland och Ukraina har IAEA inspekt\u00f6rer p\u00e5 k\u00e4rnkraftverket i Zaporizjzja som ligger precis vid fronten.<\/p>\n Bolag som utvecklar AI beh\u00f6ver underst\u00e4llas krav p\u00e5 transparens. De borde visa vad de g\u00f6r och varf\u00f6r, och uts\u00e4tta sitt s\u00e4kerhetsarbete f\u00f6r oberoende granskning. De b\u00e4sta metoderna f\u00f6r att bota misalignment b\u00f6r delas fritt mellan f\u00f6retagen.<\/p>\n Ett \u201dAI-IAEA\u201d kan inte komma p\u00e5 plats snabbt nog. K\u00e4rntekniken hade potential att medf\u00f6ra ett dramatiskt skutt i m\u00e4nsklighetens v\u00e4lst\u00e5nd och s\u00e4tta stopp f\u00f6r klimatf\u00f6r\u00e4ndringarna, men efter n\u00e5gra olyckliga olyckor hindrades k\u00e4rnkraftsutbyggnaden av \u00f6verdriven skr\u00e4ck.<\/strong><\/p>\n Trots riskerna medf\u00f6r AI stora m\u00f6jligheter. Tar man s\u00e4kerhetsarbetet p\u00e5 allvar fr\u00e5n b\u00f6rjan kan man undvika att AI hamnar i samma byr\u00e5l\u00e5da som k\u00e4rnkraften, markerad \u201dframtider som m\u00e4nskligheten valde bort\u201d.<\/p>\n Rutger Brattstr\u00f6m \u00e4r vikarierande ledarskribent p\u00e5 Expressens ledarsida. L\u00e4s fler av hans texter h\u00e4r<\/a>.<\/p>\n L\u00c4S MER: <\/strong>Trump har uppt\u00e4ckt en ekonomisk atombomb<\/a>L\u00c4S MER: <\/strong>H\u00e4r \u00e4r jobben som klarar AI-tsunamin<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Rutger Brattstr\u00f6m Publicerad 27 jul 2026 kl 18.00 Open AI har inte l\u00e4ngre kontroll \u00f6ver sin egen skapelse.…\n","protected":false},"author":2,"featured_media":317403,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[65],"tags":[466,72,465,70,71,464,31385,34,31,33,32,30,32683],"class_list":["post-317402","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ekonomi","tag-artificiell-intelligens","tag-business","tag-chat-gpt","tag-economy","tag-ekonomi","tag-open-ai","tag-rutgerbrattstrom","tag-se","tag-svenska","tag-sverige","tag-sweden","tag-swedish","tag-zaporizjzja"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@se\/116993899116194485","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/317402","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/comments?post=317402"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/317402\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media\/317403"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media?parent=317402"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/categories?post=317402"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/tags?post=317402"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}