Tietoturvayhtiön tutkimus kyseenalaistaa tekoälytyökalujen oletusturvallisuuden. Yhdellä manipuloidulla kehotteella Chat GPT:stä saatiin siirrettyä keskusteludataa käyttäjältä salassa.
Chat GPT:n haavoittuvuus mahdollisti keskusteludatan siirtämisen ulkopuolisille palvelimille. Adobe Stock / AOP, Simo Sahla
Tietoturvayhtiö Check Point Research (CPR) tiedottaa löytäneensä Chat GPT:stä kriittisen haavoittuvuuden, jonka avulla käyttäjien luottamuksellista tietoa pystyi viemään ulos palvelusta.
Chat GPT:n taustalla oleva Open AI on korjannut haavoittuvuuden. Tietoturvayhtiön mukaan virhe kuitenkin osoittaa, ettei tekoälyalustoja voida pitää lähtökohtaisesti luotettavina.
Tästä oli kyse
CPR:n havaitsema haavoittuvuus salli keskusteludatan siirtämisen ulkopuolisille palvelimille ilman käyttäjän lupaa tai tietoisuutta.
Siirto oli mahdollista toteuttaa yksittäisellä manipuloidulla kehotteella. Hyökkäyksessä ohitettiin alustan omat turvarajoitukset hyödyntämällä Chat GPT:n sokeaa pistettä.
Tutkijoiden mukaan haavoittuvuutta ei kuitenkaan ehditty hyödyntää laajasti ennen sen korjaamista.
”Vahvistaa karun totuuden”
Käyttäjät ja yritysten työntekijät syöttävät tekoälypalveluihin päivittäin arkaluontoista tietoa luottaen alustojen omiin suojauksiin.
Check Point Research kertoo tiedotteessaan, että organisaatioiden olisikin suhtauduttava tekoälyalustoihin samalla vakavuudella kuin pilvi- ja konesali-infrastruktuuriin.
– Tämä tutkimus vahvistaa tekoälyajan karun totuuden: tekoälytyökalujen ei pidä olettaa olevan lähtökohtaisesti turvallisia, Check Point Researchin tutkimusjohtaja Eli Smadja sanoo tiedotteessa.
Smadjan mukaan palveluiden omat suojaukset eivät välttämättä enää yksinään riitä pitämään tietoja turvassa. Säännellyillä toimialoilla, kuten esimerkiksi terveydenhuollossa tai finanssisektorilla, tekoälypalvelun tietoturva-aukko voi johtaa suoraan tietosuojaloukkauksiin tai viranomaisvaatimusten laiminlyöntiin.
Smadja peräänkuuluttaa organisaatioiden ja tekoälyalustojen välille kerroksellista suojausta ja tekoälyn turva-arkkitehtuurin uudistamista pelkän tietoturvapoikkeamiin reagoimisen sijaan.
Tilaa Mikrobitti-uutiskirje
Maksuton uutiskirje kokoaa kahdesti viikossa hyödyllisimmät testit, oppaat, vinkit ja digiuutiset.