Mythos is het nieuwste AI-model van techbedrijf Anthropic, bekend van chatbot Claude. Het is een taalmodel, zoals die door alle AI-chatbots worden gebruikt. Maar tijdens het testen bleek het model volgens Anthropic ‘uitzonderlijk vaardig’ in het opsporen van kwetsbaarheden in computerprogramma’s.

Tijdens het testen zou Mythos duizenden fouten hebben gevonden in onder meer veelgebruikte webbrowsers en besturingssystemen. En dat niet alleen: het model zou ook gebruikt kunnen worden om deze kwetsbaarheden te misbruiken, en nieuwe manieren te verzinnen om computers te hacken.

Niet openbaar

Anthropic besloot om Mythos niet openbaar te maken, uit angst dat cybercriminelen er massaal gebruik van zouden maken. In plaats daarvan begon het bedrijf een samenwerking met andere grote techbedrijven, zoals Google, Microsoft en Apple. Die bedrijven kunnen Mythos gebruiken om kwetsbaarheden op te sporen én te repareren, voordat ze misbruikt kunnen worden.

Het bedrijf zegt niet van plan te zijn Mythos ooit beschikbaar te stellen voor het grote publiek, omdat het model té krachtig zou zijn, en zich niet zou houden aan de ingebouwde ‘vangrails’ die het in toom moeten houden.

Dat klinkt behoorlijk angstaanjagend, maar ook als een goede reclame voor een AI-bedrijf. Is Mythos écht zo gevaarlijk?

Volgens het AI Security Institute (AISI), onderdeel van de Britse regering, kan het model inderdaad geavanceerde cyberaanvallen uitvoeren. In sommige gevallen gaat het om operaties die een menselijke hacker dagen werk zou kosten.

Complexe aanvallen

Het AISI bouwde verschillende simulaties om AI-modellen te testen. In de makkelijkste simulaties kon Mythos vrijwel altijd inbreken, maar dat geldt eigenlijk voor alle grote taalmodellen van het afgelopen jaar.

In moeilijkere tests slaagt Mythos in zo’n 75 procent van de gevallen, terwijl een jaar geleden nog geen enkel AI-model zo’n test kon doorstaan. Maar waar Mythos volgens het AISI vooral goed in is, is het aan elkaar knopen van verschillende stappen, om zo complexe aanvallen uit te voeren.

Zo bouwde het instituut een simulatie van een aanval op het netwerk van een bedrijf. Om die aanval te laten slagen, moet een hacker 32 stappen doorlopen, iets wat een mens zo’n 20 uur werk kost. Mythos slaagde er in 3 van de 10 pogingen in om in te breken op het netwerk. Dat was geen enkel model eerder gelukt.

Hacken energiecentrale lukte niet

Een kleine geruststelling: een test waarbij de AI zogenaamd een aanval op de besturing van een energiecentrale moest uitvoeren, slaagde niet. Maar volgens de onderzoekers is ligt de beperking vooral bij de computerkracht die op dit moment beschikbaar is. Met een krachtigere computer zou zo’n aanval met Mythos mogelijk toch slagen.

In deze video legt het hoofd van Microsoft Security uit hoe AI de risico’s op een hack vergroot:

Door Mythos alleen beschikbaar te stellen aan grote computerbedrijven, hoopt Anthropic dat er met het model juist zoveel mogelijk computers beter beveiligd kunnen worden.

Maar Mythos is slechts één van de honderden AI-modellen die momenteel ontwikkeld worden, dus het is een kwestie van tijd voor zulke krachtige AI-bots alsnog in handen vallen van criminele hackers. Nu al zien computerbeveiligers dat cybercriminelen volop gebruik maken van kunstmatige intelligentie.

Waarschuwing 

Het Nationaal Cyber Security Centrum (NCSC) grijpt de aankondiging van Mythos dan ook aan om bedrijven te waarschuwen. Zij moeten rekening houden met snellere en grotere cyberaanvallen. 

Het is belangrijk dat elk bedrijf zijn basis op orde heeft, zegt het NCSC. Bijvoorbeeld door beveiligingsupdates zo snel mogelijk te installeren. “uitstel van dagen of weken past niet meer bij het huidige dreigingslandschap”, schrijft het centrum.