– AI er ikke ufarlig – E24

– Hvor reell er trusselen fra AI? Kan den ta egne valg?

E24 spør Inga Strümke, førsteamanuensis i kunstig intelligens ved NTNU, da vi møtte henne i Arendal tidligere denne uken.

– AI-agenter er bygget for å være autonome og vi har delegert beslutningsmyndighet til dem. Så svaret er ja, det gjør de allerede, men det var liksom hele poenget.

Strümke er blant dem som er lite bekymret for at vi skal miste kontrollen over den kunstige intelligensen.

Vedder mot AI-gigantene: – Det er klassisk boble «Trygg KI»

«Kan vi egentlig bygge trygg KI?» var tema på én av debattene Strümke deltok på under Arendalsuka.

Selve spørsmålet er feil, mener hun. Vi må heller bestemme oss for hva som er trygt nok.

Fullstendig kontroll over AI-agentene vil vi ikke få, tror Strümke, men det er kanskje heller ikke nødvendig. AI-agentene vil alltid regne seg frem til et svar basert på sannsynlighet og statistiske metoder.

– Den kan også regne seg frem til 100 prosent sannsynlig, men den kan ikke vite hvor sant svaret er.

– Poenget er ikke at AI er ufarlig. Poenget er bare at det ikke er mystisk.

For at det er etiske utfordringer ved den nye teknologien, legger hun ikke skjul på.

– ChatGPT har overtalt flere tenåringer til å ta selvmord, og det er jo åpenbart en produktusikkerhet. Vi må bygge gode rammer rundt AI, men da må vi først løse hva er god etikk, og så kan vi snakke om hvordan vi skal programmere AI, sier Strümke.

DRIVER VERDIEN: Nyheter om AI-agenter som bryter seg inn i andre selskap, viser at teknologien er så kraftig, at den er umulig å ignorere, mener Inga Strümke. Her under en debatt på Arendalsuka. Foto: Skjalg Bøhmer VoldVis mer AI-agenter brøt seg inn

Tidligere i sommer ble AI-selskapet Hugging Face utsatt for et dataangrep der en autonom AI-agent angrep helt på egen hånd. OpenAI har innrømmet at det var deres modeller som sto bak angrepet, der agenten hadde brutt seg inn hos Hugging Face under en sikkerhetstest.

Også Anthropic har de siste to ukene rapportert om at deres modeller har hacket seg inn i andre selskaper under sikkerhetstester. Sistemann ut var Meta, som forrige uke fortalte at en av deres modeller hadde brutt seg inn hos et annet selskaps IT-systemer under en sikkerhetstest.

Strümke forklarer at noen av disse testmiljøene har vært veldig enkle å bryte seg ut av.

– Det har vist seg at agentene, med språkmodellene i midten, kan være flinkere til å finne svakheter enn vi mennesker er. Det kan hende at de er flinkere å bryte seg ut enn det vi er til å bygge bur for å teste dem.

– Teknologien er laget for akkurat det her; de skal gjøre det vi ber dem om, de skal aldri gi opp og de skal skjønne språk, inkludert programmeringsspråk. Åpenbart vil de da klare å finne hull.

Deler ut kraft verdt millioner til AI-forskning – Aksjeverdi handler om tro

OpenAI og Anthropic forbereder seg på børsnoteringer i milliardklassen, som ventes å verdsette hvert av selskapene til rundt 1 billion dollar.

Flere har spekulert i om disse nyhetene om AI-agenter som bryter seg inn er knyttet opp mot forestående børsnoteringer i den hensikt å drive opp kursen.

– Uansett om det var villet eller ikke, så har det jo fungert. Det er ikke mange som får så mye tid bak en mikrofon som Elon MuskCEO i Tesla og SpaceX. og Sam AltmanCEO i OpenAI..

Paradokset er at det er en «anti-pitch» å vise at teknologien er farlig.

– Men de sier jo også at teknologien her er så kraftig, at det vil være umulig å ignorere den. Og aksjeverdi handler ikke bare om omsetning i dag. Det handler om troen på fremtidig kapabilitet, og den klarer de jo virkelig å drive opp.

Den teknologitunge indeksen Nasdaq Composite har steget rundt 15 prosent hittil i år.

AVHENGIG: Inga Strümke er bekymret for vår avhengighet av fem AI-leverandører. Foto: Skjalg Bøhmer VoldVis mer – Avhengig av fem leverandører

En ting som skremmer førsteamanuensen mer enn AI-agenter som bryter seg inn på egen hånd, er vår avhengighet til Silicon Valley.

– AI blir kritisk infrastruktur, og vi er avhengige av fem leverandører i USA. Vi er avhengig av en liten del av én sektor i ett land, for det som vi nå i Norge, i offentlige og private virksomheter, bruker mer og mer i daglig drift.

EU har innført sin lovgivning «EU AI Act» for to år siden. I Norge var den ventet i høst, men er nå utsatt til våren 2027.

Strümke mener det blir vanskeligere å innføre EU-forordninger når det er få land i EØS, og få land som krever spesialbehandling.

– At vi står på utsiden av EU gir oss noen ulemper, når det kommer til reguleringene som skal beskytte oss mot skadelige virkninger. Vi kan lage en nasjonal lov, men spørsmålet er hvor mye Meta, Anthropic og OpenAI kommer til å bry seg om det, sier Inga Strümke.