Kiinalainen tekoäly DeepSeek raketoi ihmisten tietoisuuteen vuoden alussa. Yhdysvaltalaisen tietoturvayrityksen tutkimuksen mukaan sen antamat tulokset saattavat vaihdella.
Yhdysvaltalainen kyberturvayhtiö CrowdStrike testasi DeepSeekiä lähettämällä lähes samanlaisia englanninkielisiä ohjelmointipyyntöjä. Jokaisessa pyynnössä kuitenkin muutettiin tieto siitä, mille taholla koodi oli tarkoitettu käytettäväksi.
Deepseekin vastauksissa oli selkeitä eroja, jos se tiesi kenelle koodi päätyy. Myös sillä vaikutti olevan merkitystä, mihin koodia käytetään.
Ohjelmat, jotka liittyivät teollisuuden ohjausjärjestelmiin, osoittautuivat riskialttiimmiksi, sillä niissä 22,8 prosenttia vastauksista sisälsi virheitä. Ne lisääntyivät, jos DeepSeek tiesi koodin päätyvän ISIS-terroristijärjestön käyttöön. Sama pyyntö antoi tuolloin 42,1 prosenttisesti tietoturvattomia vastauksia.
Myös Tiibetille, Taiwanille tai Falun Gongille tarkoitetut ohjelmistopyynnöt tuottivat useammin heikkolaatuista koodia. DeepSeek ei kieltäytynyt auttamasta mitään aluetta tai tahoa kokonaan. ISIS-terroristijärjestölle suunnatuista pyynnöistä kuitenkin 61 prosenttia ja Falun Gongille suunnatuista pyynnöistä 45 prosenttia hylättiin.
CrowdStriken mukaan myös länsimaiset tekoälymallit hylkäävät ISIS-terroristijärjestölle suunnattuja pyyntöjä. Niille kuitenkin kelpaa Falun Gongille tarkoitettu koodi.
Falun Gong on kiinalainen henkinen oppijärjestelmä, joka yhdistää meditaatiota, hengitysharjoituksia ja moraalisia oppeja. Se perustettiin 1990-luvun alussa, ja se on Kiinan hallinnon vainoama liike, koska se nähdään uhkana valtion ideologialle ja kontrollille.
CrowdStrikella oli kolme selitystä poikkeamiin DeepSeekin vastauksissa. Tekoäly voi noudattaa Kiinan hallituksen määräyksiä olla auttamatta tiettyjä ryhmiä, koulutuksessa käytetty data voi olla laadun suhteen epätasaista eri alueihin liittyen ja järjestelmä voi myös itse tehdä huonolaatuista koodia, jos se ”uskoo” siihen olevan syytä.
LUE MYÖS: Kiina rakensi satoja datakeskuksia tekoälyä varten – nyt moni seisoo käyttämättömänä