Volgens techsite 404 Media vroegen hackers de AI-chatbot van Meta om een nieuw e-mailadres aan een account te koppelen. Daarna konden ze een verificatiecode onderscheppen en zo het wachtwoord van het account opnieuw instellen.
Daarmee kregen ze onder andere toegang tot het Instagram account van het Witte Huis uit de tijd van oud-president Barack Obama, cosmeticaketen Sephora en een hoge functionaris van de Amerikaanse Space Force.
In maart kondigde Meta aan dat het AI-ondersteuning zou gaan gebruiken voor alle accounts op Facebook en Instagram. De functie zou het mogelijk maken om bijvoorbeeld wachtwoorden te herstellen. In het persbericht van toen zegt Meta dat ‘de AI-chatbot een belangrijke stap is in hun streven om betere ondersteuning te bieden in hun apps’. Nu bevestigt het bedrijf dus dat dezelfde AI-chatbot is misbruikt door een groep hackers.
Slimme vragen
De hackers wisten de chatbot te misleiden door simpele maar slimme vragen te stellen. Techjournalist Daniël Verlaan legt uit dat dat vooral komt omdat de AI-assistent te ‘goedgelovig’ is. “AI is te goed van vertrouwen en kan door een mens nog vaak om de tuin worden geleid”, legt hij uit. De chatbot dacht dus dat het verzoek echt was, terwijl het in werkelijkheid van een hacker kwam.
Als een account wordt gehackt, kan dat grote gevolgen hebben. Verlaan legt dat uit: “Kwaadwillenden kunnen uit naam van slachtoffers bijvoorbeeld oplichtingswebsites of computervirussen verspreiden. En omdat het lijkt alsof het van de echte persoon komt, trappen veel mensen erin.”
Stuk goedkoper
Bedrijven zetten nu steeds vaker AI in voor klantenservice en accountbeheer. Dat is een stuk goedkoper en sneller dan menselijke medewerkers. “Probeer maar eens een helpdesk te bereiken zonder AI-tussenlaag”, zegt Verlaan. “Dat is bijna onmogelijk geworden.”
Daardoor komt het steeds vaker voor dat een AI-chatbot ook gevoelige handelingen uitvoert, zoals wachtwoorden herstellen of e-mailadressen wijzigen. Dat roept vragen op: kan je AI daar wel verantwoordelijk voor maken?
Volgens Verlaan kan dat in theorie wel, maar alleen als het extreem goed getest is. “Het is zeker mogelijk, maar dat moet goed worden getest en dat is in dit geval duidelijk niet gebeurd.”
Beperkt risico
Voor gewone Instagramgebruikers is het risico volgens hem beperkt, maar niet nul. “In bepaalde situaties kunnen er risico’s zijn, bijvoorbeeld bij een vervelende ex-partner of een stalker.”
Meta laat in een verklaring weten dat het beveiligingsprobleem inmiddels is opgelost en dat ze bezig zijn de getroffen accounts te beveiligen. Hoeveel accounts er precies slachtoffer zijn geworden van de hack is onduidelijk.
Volgens Verlaan laat de hack vooral zien hoe kwetsbaar AI nog is als het wordt ingezet voor beveiliging.
Eerder dit jaar bracht Verlaan een hack bij Ajax aan het licht: