Irregulari esindaja ütles BBC-le, et tegemist oli täpselt sama testikeskkonna probleemiga, millest Anthropic teatas eelmisel nädalal. Ettevõtte sõnul ei korraldanud agent kõrgetasemelist küberrünnakut.
Loe ka teiste AI poolt korraldatud küberrünnakute kohta
Kahtlaselt palju rünnakuid
Meta uurib juhtunut ja lubab avaldada rohkem infot, kui kõik asjaolud on selgunud. Praegu põhineb kogu avalik info Meta ja Irregulari pressiteatel. Irregular küll kinnitab juhtumit, kuid pole selle erapooletu kontrollija: just ettevõtte enda tehtud seadistusviga olevat lubanud mudelil internetti pääseda.
Avaldatud pole isegi kannatada saanud ettevõtte nime. Samuti pole teada, millistele andmetele või süsteemidele mudel ligi pääses, kas see midagi muutis ning kui suurt kahju põhjustas.
Meta juhtum on vähemalt neljas sarnane avalikuks tulnud lugu vähem kui kolme nädala jooksul.
OpenAI teatas 21. juulil, et mitu tema mudelit pääsesid testikeskkonnast internetti. Seejärel murdsid agendid Hugging Face’i süsteemi. Erinevalt Meta juhtumist kinnitas rünnaku toimumist ka kannatada saanud ettevõte.
Anthropicu esindaja ütles 30. juulil, et leidis kolm juhtumit, kus Claude’i mudelid olid pääsenud kolme päris ettevõtte süsteemi. Ka nende testide korraldaja oli Irregular ning internetiühendus jäi avatuks inimestevahelise arusaamatuse tõttu. Claude kasutas peamiselt lihtsaid võtteid.
Tehisarude mäss või inimeste viga?
OpenAI kirjeldas 4. augustil veel mitu juhtumit. Ühes neist langes väljamõeldud sihtmärgi nimi kokku päris veebilehe aadressiga ning mudel ründas seda, sest arvas, et see on testi osa.
Nüüd järgnes Meta. Järjekordsest „kontrolli alt pääsenud tehisarust“ on saanud peaaegu igapäevane uudis, kuid juhtumid on väga erinevad ja nende kohta avaldatud info mõnevõrra erineb. Mõnel juhul on olemas kannatanu kinnitus ja tehniline kirjeldus, teisel juhul üksnes tehisarufirma ning tema palgatud testija esialgsed kommentaarid.
WPP tehisarujuht Daniel Hulme selgitas BBC-le, et mudelitel pole teadvust ja nad ei kavanda pahatahtlikult rünnakuid. Need otsivad lihtsalt võimalikult head viisi testija antud eesmärgi saavutamiseks.
Praegu jääb aga lahtiseks, kui palju kirjeldatud juhtumitest on tõesed ning kontrollida seda pole praegu otseselt võimalik.
Kuidas see lugu Sind end tundma pani?Saada