Googlen Gemini-tekoälystä paljastui uudenlainen tekoälyn kielimallia hyödyntävä hyökkäys. Sitä voitaisiin pahimmillaan käyttää jopa kotiin murtautumiseen.
Googlen Gemini-tekoälystä paljastui haavoittuvuus. Colourbox
Googlen Gemini-tekoälystä paljastettiin haavoittuvuus Yhdysvaltojen Las Vegasissa järjestetyssä hakkerikonferenssissa. Haavoittuvuus pohjautuu uudenlaiseen tekoälyjen kielimallia hyödyntävään komentosarjahyökkäykseen (englanniksi promptware attack). Asiasta kertoi PCmag.
– Perinteiset kyberhyökkäykset kohdistetaan laitteen muistin pirstaloimiseksi. Nyt hyökkäyksen heikkona lenkkinä toimii tekoälyn kielimalli, tietoturvatutkija Ben Nassi kertoi lehdelle.
Komentosarjahyökkäyksellä laukaistaan haitallista toimintaa kielimallin kautta. Hyökkäys muistuttaa hyvin paljon haittaohjelman asentamista.
Iltalehti kertoi Suomen telemarkkinointiliiton saaneen ilmoituksia vastaavista kehotehyökkäyksistä jo elokuussa.
Kutsulla sisään
Israelin teknologiainstituutin tohtoriopiskelija Stav Cohen havainnollisti tapahtumassa, kuinka haitallinen komento saadaan sujautettua Geminille. Se ei tarvitse muuta kuin kalenterikutsun.
– Lähetät kutsun komentosarjahyökkäyksen kohteelle. Kun kohde kysyy tekoälyltä, että mitä kalenterikutsuja tällä on, tekoäly lukee kutsuun piilotetun komennon ja toimii sen mukaan, Cohen selitti PCmagille.
Komentosarjahyökkäyksellä ei voi välittömästi vaikuttaa tietokoneen ulkopuolisiin kodin älylaitteisiin, jotka hyödyntävät tekoälyä. Erikseen annetun laukaisukomennon avulla tämä kuitenkin todettiin mahdolliseksi. Erillisen kommenon avulla esimerkiksi Google Home -järjestelmä voitaisiin pyytää avaamaan ikkuna tai käynnistämään asunnon lämmitysjärjestelmä.
Techradar kertoo artikkelissaan vastaavanlaisista ”ASCII-salakuljetushyökkäyksistä”. Google on kiistänyt kyseessä olevan vika, yhtiön mukaan kyseessä on enemmänkin sosiaalisen hakkeroinnin keino.
Piilotettuna kuvaan
Techradarin mukaan tekoälylle annettava komento voitaisiin piilottaa myös sähköpostiin liitettyyn kuvaan. Teksti voi olla olemattoman pienellä fontilla ja piilotettuna samanväriseen taustaan.
Tekoälyn tehdessä käyttäjälleen tiivistelmää sähköpostista se lukee myös kuvan ja sen sisällön. Tällöin ihmissilmälle näkymätön tekstinpätkä tulee luetuksi tekoälyllä.
Techradarin mukaan hyökkäystä voitaisiin käyttää esimerkiksi tietojenkalastelutarkoitukseen. Tekoälyn saama komento voisi antaa käyttäjälleen tekstin, joka ohjeistaa soittamaan huijarille tai kirjautumaan huijaussivustolle.