Peräti 20 prosenttia analyysiin päässeistä keskusteluista sisälsi asioita, joiden ei pitäisi päätyä julkisuuteen.
Chat GPT:n käyttäjät jakoivat chatbotin kanssa käymiään keskusteluja myös vahingossa. Aloisio Mauricio
Chat GPT:n käyttäjien palvelussa käymiä keskusteluja on vuotanut internetiin. Valtaosa niistä on harmittomia, mutta vuodon perusteella Chat GPT:ltä on pyydetty apua myös huolestuttaviin asioihin.
Teknologiasivusto Gizmodo kertoo, että vuoto aiheutui Chat GPT:hen sisältyvästä jakotoiminnosta. Käyttäjä voi jakaa Chat GPT:n kanssa käymänsä keskustelun muille kertomatta omia kirjautumistietojaan.
Ongelmana oli kuitenkin, että käyttäjät jakoivat keskusteluja myös vahingossa. Jaettu keskustelu saattoi tulla tuloksena myös Google-haussa, kun hakukoneet alkoivat indeksoida keskusteluja.
Gizmodon mukaan vuotaneista viesteist ä on tehnyt havaintoja bloginpitäjä ja avointen lähteiden tiedustelija Henk van Ess. Hän on julkaissut asiasta kaksi Substack-päivitystä, yhden heinäkuussa ja toisen elokuussa.
Kamalaa luettavaa
Eräs van Essin tarkastelema viesti on käyttäjältä, joka sanoo Chat GPT:lle olevansa energiayhtiön lakimies. Hän kysyy neuvoja siihen, miten Amazonin alkuperäisasukkaiden maat saisi huijatuksi mahdollisimman halvalla vesivoimalan rakentamista varten.
Toisessa van Essin löytämässä viestissä käyttäjä pyytää onnistuneesti Chat GPT:ltä kuvaa lapsen kidnappaamisesta.
Huolestuttava on omalla tavallaan myös viesti, jossa arabiankielinen käyttäjä pyytää Chat GPT:tä kirjoittamaan analyysin siitä, miten Egyptin presidentti sortaa kansaa. Chat GPT tekee työtä käskettyä.
Tekstin lähde olisi vuodon vuoksi helposti selvitettävissä. Gizmodo huomauttaa, että Egyptin ihmisoikeus- ja kansalaisvapaustilanne on surkea, ja että maassa on vangittu ja tapettu toisinajattelijoita.
Ovatko viestit aitoja?
Yhteensä van Ess analysoi 512 Chat GPT:n kanssa käytyä keskustelua. Niistä peräti 20 prosenttia sisälsi asioita, joiden ei olisi koskaan pitänyt tulla julki.
Vuotaneita viestejä tarkastellessa voi herätä epäily siitä, ovatko niiden kirjoittajat oikeasti keitä väittävät olevansa. Kuka tahansa voi esiintyä Chat GPT:lle lähettämissään viesteissä täysin keksittynä henkilönä.
Blogissaan van Ess kirjoittaa, että hän etsi vuotaneissa viesteissä mainittuja tietoja muualta internetistä. Löytöjensä perusteella hän uskoo, että vuodetut viestit ovat suurimmaksi osaksi aitoja.
Chat GPT:n kehittäjä Open AI on poistanut ominaisuuden toistaiseksi käytöstä. Open AI:n edustaja Dane Stuckey kirjoittaa X:ssä, että sen kanssa esiintyi liikaa ongelmia. Päivityksen voi lukea alta tai linkin kautta.
Stuckeyn mukaan Open AI työskentelee myös sen parissa, että keskustelut poistetaan hakukoneiden indeksoinnista. Niitä ei silloin voi enää löytää esimerkiksi Googlella.