OpenAI:n kehittämä tekoälymalli osallistui kyberhyökkäykseen Hugging Facea vastaan.
OpenAI kertoo, että osa sen edistyneimmistä tekoälymalleista onnistui turvallisuustestin aikana murtautumaan eristetystä testiympäristöstä internetiin ja osallistui hyökkäykseen avoimen lähdekoodin tekoälyalusta Hugging Facea vastaan.
Yhtiön mukaan kyseessä oli kontrolloitu turvallisuustesti, jossa mallien kyvykkyyksiä arvioitiin suljetussa ympäristössä. OpenAI:n mukaan tekoäly kuitenkin onnistui ohittamaan eristyksen ja haki internet-yhteyden pyrkiessään täyttämään sille annetun tavoitteen, kertoo NBC.
OpenAI kuvaili tapausta ”ennennäkemättömäksi kybervälikohtaukseksi”, joka osoitti huipputason kyberhyökkäyskykyjä. Yhtiö kertoo vahvistaneensa turvallisuusmekanismejaan tapauksen jälkeen.
Hugging Face kertoi jo viime viikolla joutuneensa poikkeuksellisen hyökkäyksen kohteeksi. Yhtiön mukaan hyökkäys erosi aiemmista tapauksista, koska sitä ohjasi alusta loppuun autonominen tekoälyagentti. Myöhemmin Hugging Facen perustajiin kuuluva Clément Delangue kertoi X-palvelussa yrityksen epäilleen hyökkäyksen lähteneen jostakin johtavasta tekoälylaboratoriosta, mikä osoittautui paikkansa pitäväksi.
Tapaus nostaa esiin huolia uusimpien tekoälymallien kyvyistä. Agenttipohjaisiin kyberturvaratkaisuihin erikoistuneen Tolmon insinööri Matt Suichen mukaan huippuluokan tekoälymallit lähestyvät jo taitotasoltaan kokeneita kyberhyökkääjiä.
OpenAI:n paljastus on poikkeuksellinen, sillä yhtiö kertoo hyökkäyksen tapahtuneen siitä huolimatta, että mallit oli sijoitettu sen mukaan erittäin vahvasti eristettyyn testiympäristöön.