Samaa datasettiä on käytetty paljon yliopistoissa.
Google Drive -palvelun käyttöehdot kieltävät laittoman materiaalin syöttämisen palveluun ja erityisesti lasten hyväksikäyttömateriaalin.
Google jäädytti mobiilisovelluskehittäjän tilin sen jälkeen, kun hän latasi tekoälyn koulutuksessa käytettävän kuvapaketin Google Driveen. 404 Media uutisoi, että kehittäjän tietämättä kuvasetti sisälsi myös lasten hyväksikäyttöä kuvaavaa materiaalia.
Mark Russo kehitti muun muassa alastomuutta ja väkivaltaa tunnistavaa ohjelmaa. Sovellus toimii puhelimessa, joten sisältö pysyy yksityisenä eikä sitä ladata tarkastusta varten verkkoon palvelimille.
Russo aikoi testata ohjelmansa toimivuutta NudeNet-kuvakokoelmalla, johon on kerätty verkosta yli 700 000 kuvaa.
Heinäkuun lopussa Google sulki Russon tilit laittomaan materiaaliin vedoten ilman ennakkovaroitusta. Tässä yhteydessä hän menetti Driven lisäksi myös pitkään käyttämänsä Gmail-sähköpostitilinsä.
Kuvakokoelmaa on käytetty paljon akateemisessa tutkimuksessa, ja sitä on jaettu tutkimusaineistoja välittävissä verkkopalveluissa. Kehittäjä ilmoitti asiasta viranomaisille ja Academic Torrents -palvelulle, mikä johti datasetin poistamiseen palvelusta. Dataa on käytetty yli 250 akateemisessa tutkimuksessa.
Google ei suostunut avaamaan hänen tiliään valituksista huolimatta. Vasta kuukausien päästä, 404:n toimittajan otettua yhteyttä, Russo sai tilinsä takaisin.
Blogissaan Russo kertoo päätösten vaikutuksen olleen hänelle valtavan suuri, koska hän käytti Googlen työkaluja työhönsä ja mobiilisovellusten kehittämiseen.
– Ymmärrän, että olen vain itsenäinen kehittäjä eli sellainen henkilö, josta Google ei välitä. Mutta juuri siksi tämä tarina on tärkeä. Kyse ei ole vain siitä, että menetin pääsyn tileilleni. Kyse on siitä, miten samat järjestelmät, jotka väittävät taistelevansa väärinkäytöksiä vastaan vaientavat päätöksiltään läpinäkymättömän automaation kautta laillista tutkimusta ja innovointia […] Yritin tehdä oikein – ja minua rangaistiin, Russo kommentoi 404:lle.