DEBATT | CYBERSÄKERHET
Cybersäkerhet har revolutionerats framför våra ögon på grund av artificiell intelligens och nu har vågskålen tippat över till angriparnas fördel – inte försvararnas. Vi är flera cybersäkerhetsexperter som är mycket oroliga över Sveriges cybersäkerhet till följd av att AI-agenter kan hacka sig in i organisationer och system i en skala som ytterst få mänskliga organisationer tidigare kunde. AI-agenterna kommer bara att bli bättre, billigare och mer tillgängliga för motståndare. Nu måste vi inse att vi står inför enorma påfrestningar och ompröva hur vi jobbar för att säkra vårt samhälle.
Det tydligaste varningsskottet kom i juli i den så kallade ”Hugging face-incidenten”. Under flera dagar konspirerade ett självbenämnt “kollektiv” av hundratals AI-agenter från Open AI att fuska på sina träningsuppgifter. Trots att de aldrig skulle ha haft tillgång till internet bröt de sig ut och började framgångsrikt hacka sin väg in i företaget Hugging face i jakt på algoritmen som skulle bedöma dem. Denna sofistikerade cyberoperation skedde helt utan mänsklig inblandning, styrning eller beställning och hade utan AI krävt sällsynt mänsklig expertis och resurser för att utföra. Incidenten visar att AI-drivna motståndare kommer bli mycket mer kapabla och att det kommer att kräva mycket från oss försvarare att bemöta.
Vi kan lösa dessa utmaningar men skiftet som måste ske är inte bara tekniskt, utan kulturellt. På många myndigheter och organisationer är rädslan att göra fel så stor att den paralyserar. När individer som brinner för säkerhet inte vågar skrida till handling och skydda oss medborgare för att regelverken och rädsla jobbar emot dem, så är vårt cyberförsvar trasigt.
Ett talande exempel på hur Sverige ligger efter i synen på hackaren skedde under covid-19-pandemin. En anonym etisk hackare lyckades hitta sårbarheter i Sminet, Sveriges smittspårningsdatabas. Personen rapporterade sårbarheten till staten som kunde laga hålet innan det exploaterades av främmande makt eller kriminella. Vi bör alla vara tacksamma för denna goda insats som skyddade Sverige mitt under brinnande pandemi. Tyvärr ledde våra regelverk istället till att personen anmäldes och jagades digitalt av polisen. Det är inte bara ett svek mot den etiska hackaren, det är kontraproduktivt mot Sveriges säkerhet.
Ett mer modernt synsätt på cybersäkerhet hade inneburit ett annorlunda utfall. Många organisationer – både stora techföretag som Apple och det amerikanska flygvapnet – hade tackat denna person och betalat en hittelön till dem genom sina bug bounty-program. Bug bounty innebär att man betalar etiska hackare när de hittar en sårbarhet i ens digitala system. Att skapa en marknad av sina sårbarheter innebär att organisationer kan upptäcka problemen snabbt och förhoppningsvis snabbare än motståndaren. Ju viktigare ett system är desto mer betalar man, så att fokus går till att härda kronjuvelerna. Dessutom betalar man aldrig något till dem som inte hackar sig in.
Samtidigt som det skapar goda incitament för att testa säkerheten skapar det även trygghet för etiska hackare. Medan hackare som jobbar för främmande makt har en närmast obefintlig risk att dömas av svensk domstol, utsätts en etisk hackare inom Sverige för enorm personlig risk när de väljer att hjälpa oss genom att upplysa organisationer om sårbarheter. Under sådana förhållanden väljer våra bästa hackare att hjälpa mer framsynta organisationer utomlands. Det leder till en kunskapsflykt på offensiv cybertalang som vi behöver nu. Att välkomna hackare att bryta sig in i våra myndigheter och företag kan kännas obehagligt, men man måste alltid komma ihåg att motståndare varken ber om tillstånd eller berättar när de har trängt sig in i våra digitala system.
Nu rekommenderar vi en konkret åtgärd för att öka Sveriges cybersäkerhet och förbättra vår cybersäkerhetskultur: Viktiga myndigheter och statliga företag bör öppna bug bounty-program och betala hackare när de hittar och rapporterar sårbarheter.
Låt oss hacka Sverige, innan motståndare gör det!
André Catry
CTO AITyr AB
Charlotte Lindgren
tidigare chef för cyberavdelningen på Försvarets Radioanstalt
Camilla Lundahl
nationell cybersäkerhetsexpert, Cyrenity AB
Frans Rosén
omnämnd som ”Sveriges bästa hacker”
Igor Andriushchenko
CISO på Lovable
Jesper Larsson
säkerhetsforskare på 0x4A
Jonas Lejon
cybersäkerhetsexpert på Triop AB
Martin Wennberg
medgrundare av 1F913
Movitz Sunar
cybersäkerhetsingenjör
Musard Balliu
docent i cybersäkerhet på KTH
Pontus Jonsson
professor Cybersäkerhet på KTH
Richard Oehme
senior rådgivare samhälls- och cybersäkerhet på Knowit, ordförande för SOFF:s cyberförsvarsgrupp