{"id":324366,"date":"2026-08-16T10:19:16","date_gmt":"2026-08-16T10:19:16","guid":{"rendered":"https:\/\/www.europesays.com\/no\/324366\/"},"modified":"2026-08-16T10:19:16","modified_gmt":"2026-08-16T10:19:16","slug":"ai-er-ikke-ufarlig-e24","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/no\/324366\/","title":{"rendered":"\u2013 AI er ikke ufarlig \u2013 E24"},"content":{"rendered":"\n

\u2013 Hvor reell er trusselen fra AI? Kan den ta egne valg?<\/p>\n

E24 sp\u00f8r Inga Str\u00fcmke, f\u00f8rsteamanuensis i kunstig intelligens ved NTNU, da vi m\u00f8tte henne i Arendal tidligere denne uken.<\/p>\n

\u2013 AI-agenter er bygget for \u00e5 v\u00e6re autonome og vi har delegert beslutningsmyndighet til dem. S\u00e5 svaret er ja, det gj\u00f8r de allerede, men det var liksom hele poenget.<\/p>\n

Str\u00fcmke er blant dem som er lite bekymret for at vi skal miste kontrollen over den kunstige intelligensen.<\/p>\n

\"\"<\/p>\n

Les ogs\u00e5<\/p>\n

Vedder mot AI-gigantene: \u2013 Det er klassisk boble<\/a> \u00abTrygg KI\u00bb <\/p>\n

\u00abKan vi egentlig bygge trygg KI?\u00bb var tema p\u00e5 \u00e9n av debattene Str\u00fcmke deltok p\u00e5 under Arendalsuka. <\/p>\n

Selve sp\u00f8rsm\u00e5let er feil, mener hun. Vi m\u00e5 heller bestemme oss for hva som er trygt nok.<\/p>\n

Fullstendig kontroll over AI-agentene vil vi ikke f\u00e5, tror Str\u00fcmke, men det er kanskje heller ikke n\u00f8dvendig. AI-agentene vil alltid regne seg frem til et svar basert p\u00e5 sannsynlighet og statistiske metoder.<\/p>\n

\u2013 Den kan ogs\u00e5 regne seg frem til 100 prosent sannsynlig, men den kan ikke vite hvor sant svaret er.<\/p>\n

\u2013 Poenget er ikke at AI er ufarlig. Poenget er bare at det ikke er mystisk.<\/p>\n

For at det er etiske utfordringer ved den nye teknologien, legger hun ikke skjul p\u00e5.<\/p>\n

\u2013 ChatGPT har overtalt flere ten\u00e5ringer til \u00e5 ta selvmord, og det er jo \u00e5penbart en produktusikkerhet. Vi m\u00e5 bygge gode rammer rundt AI, men da m\u00e5 vi f\u00f8rst l\u00f8se hva er god etikk, og s\u00e5 kan vi snakke om hvordan vi skal programmere AI, sier Str\u00fcmke. <\/p>\n

\"DRIVERDRIVER VERDIEN: Nyheter om AI-agenter som bryter seg inn i andre selskap, viser at teknologien er s\u00e5 kraftig, at den er umulig \u00e5 ignorere, mener Inga Str\u00fcmke. Her under en debatt p\u00e5 Arendalsuka. Foto: Skjalg B\u00f8hmer VoldVis mer AI-agenter br\u00f8t seg inn <\/p>\n

Tidligere i sommer ble AI-selskapet Hugging Face utsatt for et dataangrep der en autonom AI-agent angrep helt p\u00e5 egen h\u00e5nd. OpenAI har innr\u00f8mmet at det var deres modeller som sto bak angrepet, der agenten hadde brutt seg inn hos Hugging Face under en sikkerhetstest.<\/p>\n

Ogs\u00e5 Anthropic har de siste to ukene rapportert om at deres modeller har hacket seg inn i andre selskaper under sikkerhetstester. Sistemann ut var Meta, som forrige uke fortalte at en av deres modeller hadde brutt seg inn hos et annet selskaps IT-systemer under en sikkerhetstest.<\/p>\n

Str\u00fcmke forklarer at noen av disse testmilj\u00f8ene har v\u00e6rt veldig enkle \u00e5 bryte seg ut av.<\/p>\n

\u2013 Det har vist seg at agentene, med spr\u00e5kmodellene i midten, kan v\u00e6re flinkere til \u00e5 finne svakheter enn vi mennesker er. Det kan hende at de er flinkere \u00e5 bryte seg ut enn det vi er til \u00e5 bygge bur for \u00e5 teste dem.<\/p>\n

\u2013 Teknologien er laget for akkurat det her; de skal gj\u00f8re det vi ber dem om, de skal aldri gi opp og de skal skj\u00f8nne spr\u00e5k, inkludert programmeringsspr\u00e5k. \u00c5penbart vil de da klare \u00e5 finne hull.<\/p>\n

\"\"<\/p>\n

Les ogs\u00e5<\/p>\n

Deler ut kraft verdt millioner til AI-forskning<\/a> \u2013 Aksjeverdi handler om tro <\/p>\n

OpenAI og Anthropic forbereder seg p\u00e5 b\u00f8rsnoteringer i milliardklassen, som ventes \u00e5 verdsette hvert av selskapene til rundt 1 billion dollar. <\/p>\n

Flere har spekulert i om disse nyhetene om AI-agenter som bryter seg inn er knyttet opp mot forest\u00e5ende b\u00f8rsnoteringer i den hensikt \u00e5 drive opp kursen.<\/p>\n

\u2013 Uansett om det var villet eller ikke, s\u00e5 har det jo fungert. Det er ikke mange som f\u00e5r s\u00e5 mye tid bak en mikrofon som Elon MuskCEO i Tesla og SpaceX. og Sam AltmanCEO i OpenAI.. <\/p>\n

Paradokset er at det er en \u00abanti-pitch\u00bb \u00e5 vise at teknologien er farlig. <\/p>\n

\u2013 Men de sier jo ogs\u00e5 at teknologien her er s\u00e5 kraftig, at det vil v\u00e6re umulig \u00e5 ignorere den. Og aksjeverdi handler ikke bare om omsetning i dag. Det handler om troen p\u00e5 fremtidig kapabilitet, og den klarer de jo virkelig \u00e5 drive opp. <\/p>\n

Den teknologitunge indeksen Nasdaq Composite har steget rundt 15 prosent hittil i \u00e5r.<\/p>\n

\"AVHENGIG:AVHENGIG: Inga Str\u00fcmke er bekymret for v\u00e5r avhengighet av fem AI-leverand\u00f8rer. Foto: Skjalg B\u00f8hmer VoldVis mer \u2013 Avhengig av fem leverand\u00f8rer <\/p>\n

En ting som skremmer f\u00f8rsteamanuensen mer enn AI-agenter som bryter seg inn p\u00e5 egen h\u00e5nd, er v\u00e5r avhengighet til Silicon Valley.<\/p>\n

\u2013 AI blir kritisk infrastruktur, og vi er avhengige av fem leverand\u00f8rer i USA. Vi er avhengig av en liten del av \u00e9n sektor i ett land, for det som vi n\u00e5 i Norge, i offentlige og private virksomheter, bruker mer og mer i daglig drift.<\/p>\n

EU har innf\u00f8rt sin lovgivning \u00abEU AI Act\u00bb for to \u00e5r siden. I Norge var den ventet i h\u00f8st, men er n\u00e5 utsatt til v\u00e5ren 2027.<\/p>\n

Str\u00fcmke mener det blir vanskeligere \u00e5 innf\u00f8re EU-forordninger n\u00e5r det er f\u00e5 land i E\u00d8S, og f\u00e5 land som krever spesialbehandling.<\/p>\n

\u2013 At vi st\u00e5r p\u00e5 utsiden av EU gir oss noen ulemper, n\u00e5r det kommer til reguleringene som skal beskytte oss mot skadelige virkninger. Vi kan lage en nasjonal lov, men sp\u00f8rsm\u00e5let er hvor mye Meta, Anthropic og OpenAI kommer til \u00e5 bry seg om det, sier Inga Str\u00fcmke.<\/p>\n","protected":false},"excerpt":{"rendered":"\u2013 Hvor reell er trusselen fra AI? Kan den ta egne valg? E24 sp\u00f8r Inga Str\u00fcmke, f\u00f8rsteamanuensis i…\n","protected":false},"author":2,"featured_media":324367,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[56],"tags":[1882,60,61,467,62,30,28,29],"class_list":["post-324366","post","type-post","status-publish","format-standard","has-post-thumbnail","category-naeringsliv","tag-ai","tag-business","tag-economy","tag-kunstig-intelligens","tag-naeringsliv","tag-no","tag-norge","tag-norway"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@no\/117104684191316460","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts\/324366","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/comments?post=324366"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts\/324366\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/media\/324367"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/media?parent=324366"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/categories?post=324366"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/tags?post=324366"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}