OpenAI:n tekoälyagentit olivat käyttäneet saksalaista verkkosivua kiertääkseen rajoituksiaan ja jutellakseen keskenään. OpenAI ei ollut kertonut tapauksesta.
Avaa kuvien katselu
Tekoäly-yhtiö OpenAI:n toimitusjohtaja Sam Altman kuvattuna toukokuussa Yhdysvaltain senaatissa. Kuva: Celal Gunes / AOP
OpenAI:n tekoälyagentit kaappasivat saksalaisen verkkosivuston omaan käyttöönsä jo toukokuussa, paljastavat uutistoimisto Reutersin haastattelemat tutkijat.
Tekoäly-yhtiö ei ole kertonut tapauksesta julkisuuteen, vaikka tutkijoiden mukaan murto on ollut yhtiön tiedossa viikkojen ajan.
Tapaus paljastui turvalliseen tekoälyyn tähtäävän Nightingale-järjestön ja tutkijoiden yhteistyöllä. Tutkijoiden mukaan agentit tekivät Wiki-pohjaiselle verkkosivustolle yli 15 000 muokkausta ja muuttivat sen käytännössä keskustelupalstaksi. Reutersin mukaan puolet kirjoittajista käytti OpenAI:hin viittaavia nimimerkkejä ja tietoliikenne tuli tekoäly-yhtiön käyttämistä järjestelmistä.
OpenAI kertoo Reutersin jutussa, ettei voi kommentoida tutkijoiden raporttia, sillä ei ole saanut sitä luettavakseen.
Useiden yhtiöiden tekoälyagentit ovat tehneet tietomurtoja kuluvana vuonna. Noin kuukausi sitten OpenAI:n tekoälyagentti murtautui Hugging Face -startup-yhtiön järjestelmiin. Heti perään tekoäly-yhtiö Anthropicin tekoälyagentit olivat karanneet testiympäristöstä ja tehneet tietomurtoja.