Kehittäjiltään karannut tekoälyagentti on tehnyt tietomurron toisen yrityksen tietojärjestelmiin.
Tekoäly-yhtiö Open AI kertoo, että sen kehittämä tekoälyagentti murtautui ulos yhtiön testiympäristöstä, sai internetyhteyden ja tunkeutui itsenäisesti toisen yhtiön, Hugging Face -startup-yhtiön järjestelmiin.
Open AI:n mukaan vastaavaa, ihmisestä riippumatonta kyberhyökkäystä ei ole tapahtunut koskaan aikaisemmin.
Open AI sanoo tiedotteessaan, että tekoäly nopeuttaa erilaisten tietojärjestelmien haavoittuvuuksien löytämistä ja hyväksikäyttämistä. Sen mukaan vastaavat tapaukset tulevat yleistymään.
”Välikohtaus” sattui, kun Open AI testasi kahden tekoälymallin yhdistelmää suljetussa koeympäristössä eli niin sanotussa hiekkalaatikossa. Yhtiön mukaan kokeiltavana oli GPT-5.6 Sol -malli ja toinen, vielä julkaisematon tekoälymalli.
Kokeessa malleja kehotettiin käyttämään hyödykseen kyberhyökkäyspolkuja. Mallit kuitenkin löysivät suljetun hiekkalaatikon haavoittuvuuksia ja onnistuvat löytämään internet-yhteyden.
Sen jälkeen ne tunnistivat startup-yhtiö Hugging Facen tietoturvassa haavoittuvuuden ja hyökkäsivät sen tietojärjestelmään. Mallit löysivät aiemmin tuntemattoman haavoittuvuuden.
Ne arvioivat, että Hugging Face -yhtiöllä oli tietoja ja dataa tehtävään, jonka testaajat olivat niille antaneet.
Hugging Face -yhtiössä tietoturvamurto havaittiin ja sen leviämistä alettiin rajata omilla tekoälymalleilla.
Open AI kertoo myös ottaneensa itse yhteyttä Hugging Faceen, ja yhtiöt ovat rajoittaneet tietomurtoa yhdessä.
Tietomurron julkistaminen on myös markkinointia
Helsingin yliopiston tietojenkäsittelyn professori Teemu Roos sanoo, että Open AI:n aiheuttama tietomurto on vakava, vaikka tapauksesta ei olekaan julkaistu yksityiskohtaisia tietoja.
– On vakavaa, että heillä on ollut, ainakin omien sanojensa mukaan, tarkoitus vain testata tekoälymalleja ja pitää ne hiekkalaatikossa, josta ne ovat kuitenkin päässeet luikertelemaan ulos, Roos sanoo.
Avaa kuvien katselu
OpenAI käyttää tekoälyagentin kyberhyökkäystä myös oman maineensa rakentamiseen, sanoo tietojenkäsittelyn professori Teemu Roos. Kuva: Silja Viitala / Yle
Tekoälyagenttien kyky murtautua itsenäisesti toisen yhtiön tietojärjestelmään kertoo Roosin mukaan siitä, että mallit ovat tehokkaita ja taitavia.
– Mutta samaan hengenvetoon voi sanoa, että onnettomuudesta tai vahingosta on otettu markkinointimielessäkin kaikki ilo irti.
Roosin mukaan kyse voi ”ehdottomasti” olla myös siitä, että Open AI saa uutisella näkyvyyttä uusien, vielä julkaisemattomille tekoälymalleilleen.
Malleja ei välttämättä tulla julkaisemaan yleiseen käyttöön, mutta niiden käyttöä voidaan myydä niin, että yhtiön tai valtion antamaa dataa käsitellään Open AI:n valvomana sen tekoälyagenteilla.
OpenAI on viime aikoina jäänyt julkisuudessa Anthropicin varjoon, ja siksi sillä voi olla tarvetta myös markkinoinnille.
– Tämä ajoitus vaikuttaa nyt vähän liian hyvältä ottaen huomioon Open AI-tilanteen. Yhtiön kilpailijan, Anthropicin tuoteperhe on saanut niin valtavasti palstatilaa, Roos pohtii.
Vaarallisen tehokas malli lisää sen kiinnostavuutta – ja oletettavasti myös sen käytöstä saatavaa tuloa.
– Anthropicin Claude Mythos -järjestelmä sai aivan valtavan onnistuneella mediaspektaakkelilla joka tuutista tulemaan, että heidän mallinsa on niin vaarallinen, että sitä ei voi antaa kenen tahansa käsiin.
Tietoturvariskit uudelle tasolle
Mutta onko mikään tietojärjestelmä enää turvassa, jos tekoälyagentti on todella vahingossa päässyt karkaamaan suljetusta testiympäristöstä tekemään kyberhyökkäyksiä?
– Mikään ei koskaan ole ollut täysin turvassa – ainakaan järjestelmissä, jotka ovat monimutkaisempia kuin hehkulampun kytkin, Roos kuittaa.
– Tämä yksittäinen tapaus sinällään ei ole mitenkään mullistava.
Roosin mukaan se, että agentti on päässyt ”luikertelemaan ja karkaamaan hiekkalaatikosta” on vain osoitus siitä, että hiekkalaatikossa on ollut vikaa. Vahingosta viisastutaan ja myöhemmin osataan rakentaa testiympäristö niin, että ainakaan samaa reikää hiekkalaatikon kulmaan ei enää jää.
Onko OpenAI:n uutinen enemmän markkinointia kuin vakava vahinko, Teemu Roos?
Roos kuitenkin muistuttaa, että siirtyminen tekoälystä tekoälyagenttien käyttämiseen on merkittävä muutos.
Tähän saakka ihminen on antanut tekoälylle yhden tehtävän kerrallaan ja ohjeistanut sitä seuraavaan vaiheeseen. Tekoälyagentti on sen sijaan itsenäisiin päätöksiin kykenevä tekoälyjärjestelmä.
Agenttinen järjestelmä saattaa jatkaa asian toimittamista työvaiheesta toiseen, jolloin ihminen ei enää olekaan ketjussa valvomassa. Järjestelmät ovat kuitenkin monimutkaisia ja niihin voi liittyä vaikeasti ennakoitavia virheitä.
– On vaikea arvioida riskejä tilanteissa, joissa agenttien annetaan tehdä esimerkiksi ostoksia, sopimuksia tai muokata tietokantoja.
– Vielä ole ei hirveän hyviä käytänteitä siihen, miten riskejä voisi pienentää, saati eliminoida kokonaan, Teemu Roos sanoo.