{"id":313844,"date":"2026-07-23T17:18:36","date_gmt":"2026-07-23T17:18:36","guid":{"rendered":"https:\/\/www.europesays.com\/se\/313844\/"},"modified":"2026-07-23T17:18:36","modified_gmt":"2026-07-23T17:18:36","slug":"open-ai-skulle-testa-nya-ai-modeller-hackade-sig-in-hos-annan-ai-plattform","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/se\/313844\/","title":{"rendered":"Open AI skulle testa nya AI-modeller \u2013 hackade sig in hos annan AI-plattform"},"content":{"rendered":"

\"Bild<\/a> Publicerad 17:44\"H\u00e4ndelsenH\u00e4ndelsen ska utredas av Open AI och Hugging Face. Foto: Michael Dwyer\/APVisa mer<\/p>\n

Open AI skulle testa sina avancerade AI-modeller.<\/p>\n

D\u00e5 tog modellerna sig ut p\u00e5 internet \u2013 och hackade sig in hos en annan AI-plattform.<\/p>\n

\u201dVi ser det h\u00e4r som en cyberincident utan motstycke\u201d, skriver Open AI i ett pressmeddelande.<\/a><\/p>\n

Open AI genomf\u00f6rde nyligen ett s\u00e4kerhetstest med n\u00e5gra av sina mest avancerade AI-modeller.<\/p>\n

Resultatet blev inte vad man trodde.<\/p>\n

AI-modellerna lyckades bryta sig f\u00f6rbi s\u00e4kerhetsgr\u00e4nserna som satts upp kring testet.<\/p>\n

De riktade d\u00e4refter in sig p\u00e5 Hugging Face, en av v\u00e4rldens st\u00f6rsta plattformar f\u00f6r att dela AI-modeller, och lyckades d\u00e4r komma \u00e5t vissa interna system f\u00f6r att l\u00f6sa testet.<\/p>\n

Men modellerna hade inte f\u00e5tt order om att hacka plattformen.<\/p>\n

Open AI utreder nu h\u00e4ndelsen tillsammans med Hugging Face.<\/p>\n

\u201dDet \u00e4r ganska h\u00e4pnadsv\u00e4ckande att allt detta h\u00e4nde autonomt. Utredningen p\u00e5g\u00e5r, och vi kommer att dela med oss av fler l\u00e4rdomar fr\u00e5n vad som kan vara den f\u00f6rsta h\u00e4ndelsen av sitt slag\u201d, skriver Clement Delangue, medgrundare och vd f\u00f6r Hugging Face, i ett inl\u00e4gg p\u00e5 X<\/a>.<\/p>\n

\"OpenOpen AI:s vd Sam Altman. Foto: APVisa mer AI-modellerna \u201dfuskade\u201d <\/p>\n

H\u00e4ndelsen kan l\u00e5ta som h\u00e4mtad ur en science fiction-film och har lett till rubriker om att AI:n blev sj\u00e4lvmedveten och \u201dl\u00f6pte amok\u201d.<\/p>\n

Men s\u00e5 dramatiskt beh\u00f6ver det inte vara, menar Neil Lawrence, professor i maskininl\u00e4rning vid University of Cambridge.<\/p>\n

I en intervju med Sky News <\/a>f\u00f6rklarar han att Open AI gav modellerna i uppgift att prestera s\u00e5 bra som m\u00f6jligt i ett cybers\u00e4kerhetstest. Testerna gjordes i ett slutet digitalt \u201drum\u201d med begr\u00e4nsad tillg\u00e5ng till internet \u2013 just f\u00f6r att inte kunna hacka sig in hos andra verksamheter.<\/p>\n

\u2013 N\u00e4r modellerna v\u00e4l hade f\u00e5tt uppgiften att hacka och prestera s\u00e5 bra som m\u00f6jligt i testet ins\u00e5g de att det mest effektiva s\u00e4ttet att lyckas var att fuska, s\u00e4ger han.<\/p>\n

Experten: Inte ov\u00e4ntat <\/p>\n

Det var d\u00e5 de riktade sig in p\u00e5 Hugging Face. Men Neil Lawrence anser inte att AI-modellerna blev \u201dsj\u00e4lvmedvetna\u201d eller l\u00f6pte amok.<\/p>\n

\u2013 Den var utvecklad f\u00f6r att hacka, f\u00f6r att vara expert p\u00e5 cybers\u00e4kerhet och f\u00f6r att visa att den kunde ta sig igenom s\u00e4kerhetssystem. Det enda som h\u00e4nde var att OpenAI hade satt upp skydd f\u00f6r att hindra den fr\u00e5n att n\u00e5 internet \u2013 och modellen visade sig vara tillr\u00e4ckligt skicklig f\u00f6r att ta sig f\u00f6rbi dem, s\u00e4ger han.<\/p>\n

\u2013 Jag ser inte det h\u00e4r som att AI:n \u201dgick rogue\u201d i science fiction-bem\u00e4rkelse. Jag ser det som en f\u00f6ruts\u00e4gbar konsekvens av det test man hade byggt.<\/p>\n

Det \u00e4r definitivt ett problem att AI-modellerna g\u00f6r saker utvecklarna inte kunnat f\u00f6rutse, till\u00e4gger han.<\/p>\n

\u2013 Men det \u00e4r inte ov\u00e4ntat p\u00e5 det s\u00e4tt att vi redan visste att modellerna har \u2013 eller skulle komma att f\u00e5 \u2013 den h\u00e4r typen av f\u00f6rm\u00e5gor.<\/p>\n","protected":false},"excerpt":{"rendered":"Publicerad 17:44H\u00e4ndelsen ska utredas av Open AI och Hugging Face. Foto: Michael Dwyer\/APVisa mer Open AI skulle testa…\n","protected":false},"author":2,"featured_media":313845,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[5],"tags":[22,23,26,27,17,21,4349,24,25,28,29,15,16,464,18,34,31,33,32,30,19,20],"class_list":["post-313844","post","type-post","status-publish","format-standard","has-post-thumbnail","category-rubriker","tag-breaking-news","tag-breakingnews","tag-featured-news","tag-featurednews","tag-headlines","tag-huvudnyheter","tag-internet","tag-latest-news","tag-latestnews","tag-main-news","tag-mainnews","tag-news","tag-nyheter","tag-open-ai","tag-rubriker","tag-se","tag-svenska","tag-sverige","tag-sweden","tag-swedish","tag-top-stories","tag-topstories"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@se\/116970436372059257","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/313844","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/comments?post=313844"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/posts\/313844\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media\/313845"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/media?parent=313844"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/categories?post=313844"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/se\/wp-json\/wp\/v2\/tags?post=313844"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}