Pahempaa on luvassa, tekoäly-yhtiö ennustaa.
1.9. 15:22
Yksi tietoturva-asiantuntijoiden ennuste, tekoälyn kehittämä automatisoitu kiristysohjelma, on toteutunut. Asiasta kertoo Claude-chatbotin kehittäjä, tekoäly-yhtiö Anthropic blogissaan.
Hyökkääjä käytti Claude-chatbotin ”vibe coding” -ominaisuutta, jossa hän loi tietokoneohjelman kirjoittamatta itse koodia. Hän kuvaili, mitä hän haluaa ohjelman tekevän, ja tekoäly toteutti sen.
Lopputuloksena oli täysin automatisoitu prosessi, jossa tekoälyn kirjoittama ohjelma etsi kohteet, murtautui niihin, varasti tietoja ja analysoi ne sekä lopuksi kirjoitti jopa lunnasvaatimukset.
Lunnasvaatimukset perustuivat tekoälyn analyysiin yrityksiltä varastetuista taloustiedoista. Kiristyssummat vaihtelivat 75 000:n ja 500 000 dollarin (64 000:n ja 426 000 euron) välillä.
Kohteita oli ainakin 17. Yrityksiä ei nimetty, mutta niiden joukossa oli ainakin yksi puolustusalan yritys, rahalaitos ja useampi terveydenhuollon yritys. Varastettuun dataan kuuluu muun muassa ihmisten terveystietoja.
Kampanja kesti yli kolme kuukautta. Hakkeri ei ole tiedossa, mutta hänen ei uskota olevan amerikkalainen.
Anthropic paljasti myös Pohjois-Korean valjastaneen Clauden huijausoperaatioon, jossa tekoäly teeskenteli etätyöläisiä päästäen valtiolliset hakkerit tunkeutumaan suuriin amerikkalaisyrityksiin.
Yhtiö sanoo hyväksikäytön laajuuden yllättäneen sen itsekin. Yhdysvalloissa tekoäly-yhtiöiden valvonta ja sääntely on minimaalista.
Anthropic ei kertonut hyväksikäytöstä tarkempia yksityiskohtia. Se sanoi kuitenkin sulkeneensa käyttäjätilejä ja kiristäneensä suojauksiaan tapahtuman seurauksena.
Yhtiö totesi tekoälyn laskeneen merkittävästi kynnystä kehittyneiden kyberrikosoperaatioiden toteuttamiseen. Vastaavia väärinkäytöksiä nähdään tulevaisuudessa lisää.
Tietoturvaguru Mikko Hyppönen nimesi viime vuonna kolme mielestään pahinta tietoturvauhkaa. Kaikki liittyivät tekoälyyn: deepfaket eli kuvien, äänen ja videon syväväärennökset, sarjahuijaukset eli deepscamit, itse itseään kehittävät haittaohjelmat sekä tietoturva-aukkoja etsivän tekoälyn.