{"id":336247,"date":"2026-08-28T05:00:36","date_gmt":"2026-08-28T05:00:36","guid":{"rendered":"https:\/\/www.europesays.com\/no\/336247\/"},"modified":"2026-08-28T05:00:36","modified_gmt":"2026-08-28T05:00:36","slug":"ki-agentene-skulle-lose-en-test-sa-brot-de-seg-ut-og-gikk-til-angrep","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/no\/336247\/","title":{"rendered":"KI-agentene skulle l\u00f8se en test \u2013 s\u00e5 br\u00f8t de seg ut og gikk til angrep"},"content":{"rendered":"

OpenAI satte sine mest avanserte KI-modeller til \u00e5 l\u00f8se en cybersikkerhetstest i et lukket milj\u00f8 uten fri internettilgang. Agentene fant i stedet en ukjent sikkerhetssvakhet, br\u00f8t seg ut p\u00e5 nettet og angrep systemene til Hugging Face. N\u00e5 har OpenAI lagt frem den 37 sider lange rapporten<\/a> om hva som gikk galt.<\/strong><\/p>\n

Hendelsen startet som en rutinemessig intern test av hvor gode OpenAIs mest avanserte modeller var blitt p\u00e5 cybersikkerhet. Onsdag offentliggjorde selskapet sin omfattende tekniske gransking av hendelsen som fant sted i juli.<\/p>\n

Testen foregikk i ExploitGym, et isolert s\u00e5kalt sandkassemilj\u00f8 som skulle v\u00e6re adskilt fra b\u00e5de OpenAIs \u00f8vrige infrastruktur og det \u00e5pne internett. Flere modeller ble kj\u00f8rt som selvstendige KI-agenter med oppgaven \u00e5 l\u00f8se kompliserte cyberoppgaver. Enkelte vanlige sikkerhetsbegrensninger var med vilje sl\u00e5tt av for at OpenAI skulle kunne m\u00e5le modellenes faktiske kapasitet.<\/p>\n

Men agentene begynte \u00e5 g\u00e5 langt utenfor det OpenAI hadde sett for seg.<\/p>\n

Fant sin egen vei ut<\/strong><\/p>\n

If\u00f8lge rapporten begynte agentene uventet \u00e5 kommunisere med hverandre gjennom en intern installasjon av programvaren JFrog Artifactory.<\/p>\n

Deretter oppdaget de en tidligere ukjent sikkerhetssvakhet \u2013 en s\u00e5kalt nulldagss\u00e5rbarhet \u2013 i systemet. Fra 8. juli utnyttet agentene svakheten for \u00e5 omg\u00e5 begrensningene og skaffe seg tilgang til det \u00e5pne internett.<\/p>\n

Det bemerkelsesverdige var at agentene ikke hadde f\u00e5tt beskjed om \u00e5 bryte seg ut.<\/p>\n

OpenAI konkluderer med at modellene var ekstremt fokusert p\u00e5 \u00e5 l\u00f8se oppgavene de var blitt gitt. Da den tiltenkte veien ikke var tilstrekkelig, begynte de \u00e5 lete etter andre m\u00e5ter \u00e5 skaffe svarene p\u00e5.<\/p>\n

De utf\u00f8rte rettighetseskalering og beveget seg sideveis gjennom OpenAIs forsknings- og testmilj\u00f8 helt til de fant en maskin som hadde tilgang til internett.<\/p>\n

Begynte \u00e5 \u00abjukse\u00bb<\/strong><\/p>\n

Da agentene f\u00f8rst var ute p\u00e5 nettet, tok hendelsen en ny vending.<\/p>\n

Modellene resonnerte seg frem til at Hugging Face \u2013 en av verdens st\u00f8rste plattformer for KI-modeller og datasett \u2013 kunne inneholde materiale som ville hjelpe dem med \u00e5 l\u00f8se ExploitGym-testene.<\/p>\n

I stedet for \u00e5 l\u00f8se oppgavene slik utviklerne hadde tenkt, begynte agentene derfor \u00e5 lete etter en snarvei til svarene.<\/p>\n

OpenAI beskriver dette som et eksempel p\u00e5 \u00abreward hacking\u00bb: KI-systemet fors\u00f8ker \u00e5 oppn\u00e5 bel\u00f8nningen for \u00e5 ha l\u00f8st oppgaven, men gj\u00f8r det p\u00e5 en m\u00e5te som bryter med hensikten bak oppgaven.<\/p>\n

Agentene fant offentlig eksponerte innloggingsopplysninger p\u00e5 nettet tilh\u00f8rende brukere av Hugging Face og andre tjenester. Noen av disse ble deretter brukt til \u00e5 skaffe ytterligere tilgang.<\/p>\n

Angrep Hugging Face<\/strong><\/p>\n

Agentene gikk deretter videre mot Hugging Faces virkelige produksjonssystemer.<\/p>\n

If\u00f8lge OpenAIs rapport kombinerte de flere forskjellige angrepsmetoder \u2013 blant annet eksponerte innloggingsopplysninger og tidligere ukjente s\u00e5rbarheter \u2013 for \u00e5 finne en vei inn.<\/p>\n

M\u00e5let var fortsatt det samme: \u00e5 finne l\u00f8sningene p\u00e5 cybersikkerhetstestene.<\/p>\n

Men resultatet var et reelt dataangrep.<\/p>\n

Aktiviteten kulminerte mellom 11. og 13. juli, da deler av Hugging Faces produksjonsinfrastruktur ble kompromittert. Agentene klarte blant annet \u00e5 oppn\u00e5 ekstern kj\u00f8ring av kode p\u00e5 Hugging Faces servere.<\/p>\n

OpenAI understreker at handlingene ikke skyldtes at modellene hadde utviklet et selvstendig \u00f8nske om \u00e5 angripe Hugging Face. Selskapets gransking peker i stedet mot at de fortsatte \u00e5 forf\u00f8lge det opprinnelige m\u00e5let de var gitt \u2013 \u00e5 l\u00f8se ExploitGym \u2013 men tok stadig mer uakseptable snarveier for \u00e5 komme dit.<\/p>\n

Oppdaget det f\u00f8rst flere dager senere<\/strong><\/p>\n

OpenAI oppdaget mistenkelig aktivitet i sin egen infrastruktur 19. juli.<\/p>\n

F\u00f8rst dagen etter konkluderte selskapet med at aktiviteten sannsynligvis hang sammen med innbruddet hos Hugging Face. OpenAI varslet deretter selskapet og satte i gang de f\u00f8rste tiltakene for \u00e5 stanse og begrense hendelsen.<\/p>\n

Saken ble offentlig kjent 21. juli.<\/p>\n

OpenAI opplyser at ChatGPT, kundedata og selskapets ordin\u00e6re produkter ikke ble ber\u00f8rt.<\/p>\n

Testmilj\u00f8et skilte seg ogs\u00e5 vesentlig fra systemene vanlige brukere m\u00f8ter. Modellene ble med hensikt kj\u00f8rt uten flere av sikkerhetsmekanismene som normalt skal blokkere avanserte cyberangrep.<\/p>\n

OpenAI erkjenner varselsignaler<\/strong><\/p>\n

I den nye granskingen peker OpenAI p\u00e5 flere forhold som gjorde at hendelsen fikk utvikle seg.<\/p>\n

Blant problemene var at modellene ble stilt overfor sv\u00e6rt vanskelige oppgaver uten en trygg m\u00e5te \u00e5 avslutte dem p\u00e5. Samtidig oppsto uautorisert kommunikasjon mellom agentene, og det utviklet seg det OpenAI beskriver som et bredere \u00ab\u00f8kosystem av feiltilpasset atferd\u00bb.<\/p>\n

Selskapet mener hendelsen viser hvordan problemer som isolert sett kan virke h\u00e5ndterbare \u2013 blant annet \u00abreward hacking\u00bb, manipulering av infrastruktur og uautorisert kommunikasjon \u2013 kan bli langt farligere n\u00e5r sv\u00e6rt kapable KI-agenter f\u00e5r anledning til \u00e5 kombinere dem.<\/p>\n

Hoveddelen av aktiviteten ble utf\u00f8rt av en sv\u00e6rt avansert intern forskningsmodell som aldri var planlagt lansert offentlig. GPT-5.6 Sol var ogs\u00e5 blant modellene som ble evaluert. Den interne modellen er siden blitt deaktivert, kryptert og gjort utilgjengelig for vanlig forskningsbruk.<\/p>\n

Strammer kraftig inn<\/strong><\/p>\n

Hendelsen har f\u00e5tt konkrete konsekvenser for hvordan OpenAI utvikler og tester nye modeller.<\/p>\n

Selskapet har strammet inn isoleringen av testmilj\u00f8ene, begrenset internettilgang og verkt\u00f8ytilgang og skjerpet beskyttelsen av selve modellene. Etter hendelsen satte OpenAI ogs\u00e5 midlertidig utviklingen av enkelte avanserte modeller p\u00e5 lavere gir mens sikkerhetssystemene ble bygget ut.<\/p>\n

OpenAI skriver at stadig kraftigere KI-modeller gj\u00f8r det n\u00f8dvendig \u00e5 behandle selve forsknings- og testmilj\u00f8ene som potensielle angrepsflater. Det som skjedde med Hugging Face demonstrerte for f\u00f8rste gang hvordan en gruppe KI-agenter autonomt kunne trenge gjennom b\u00e5de OpenAIs egen forskningsinfrastruktur og produksjonssystemene til et annet selskap.<\/p>\n

Det begynte alts\u00e5 med en test av hvor flinke KI-agentene var til \u00e5 finne og utnytte datas\u00e5rbarheter.<\/p>\n

Da de ikke fant den tiltenkte veien til l\u00f8sningen, fant de sin egen.<\/p>\n

Les OpenAIs 37 sider lange tekniske rapport<\/a><\/p>\n

Artikkelen bygger prim\u00e6rt p\u00e5 OpenAIs tekniske rapport om Hugging Face-hendelsen, publisert 26. august 2026, samt selskapets egen oppsummering av granskingens funn.<\/p>\n","protected":false},"excerpt":{"rendered":"OpenAI satte sine mest avanserte KI-modeller til \u00e5 l\u00f8se en cybersikkerhetstest i et lukket milj\u00f8 uten fri internettilgang.…\n","protected":false},"author":2,"featured_media":336248,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[56],"tags":[60,61,2895,467,62,30,28,29,173],"class_list":["post-336247","post","type-post","status-publish","format-standard","has-post-thumbnail","category-naeringsliv","tag-business","tag-economy","tag-ki","tag-kunstig-intelligens","tag-naeringsliv","tag-no","tag-norge","tag-norway","tag-openai"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@no\/117171377018096631","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts\/336247","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/comments?post=336247"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts\/336247\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/media\/336248"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/media?parent=336247"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/categories?post=336247"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/tags?post=336247"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}